Harness 与 Agent 工程 · AI研发与测试工程 · 2026-08-17

Qwen3.8-27B本地部署实测:很好但别用默认设置,社区优化后潜力很大,可稍晚入手!

Qwen3.8-27B本地部署实测:性价比端侧Agent模型,社区优化潜力大,别用默认设置! 核心内容:

  1. 模型定位与性价比:DeepSeek调价后,27B是端侧Agent高性价比之选
  2. 本地部署实测表现:AMD 7900 XTX(24GB显存)下输出速度62tok/s,个人/小团队适用
  3. 默认设置问题及优化:默认xhigh推理强度需调整,社区优化后潜力更大

上一次,我们测试了 Qwen3.8-Max。测完之后,我最期待的其实是 27B 版本。现在,它终于来了。

从小编的角度看,在 DeepSeek 大幅调价的当下,27B 其实是目前最有性价比的端侧 Agent 模型。包括今天中午我们智能体交流群里也有人反馈本地部署的 27B 还挺好用的(使用的显卡是AMD 7900 XTX(24GB显存),在workbuddy上输出速度大概62tok/s)。

无论是个人还是小型团队,只要需要高强度使用 Agent,或对数据安全有很高要求,27B 这个尺寸的模型绝对是不二之选。

本文编译自外网,原文作者 Simon Willison[1] 是开源数据工具 Datasette[2] 的创建者,也是 Django Web Framework 的联合创建者。他长期关注 Web 开发、开源软件和 AI 工具,并从 2002 年起持续写作。

以下是原文内容。


上周五,Qwen3.8-27B[3] 正式发布。这是阿里巴巴 Qwen 团队推出的一款 270 亿参数视觉语言模型,采用 Apache 2 许可证。

我等这款模型很久了。27B 的体量刚刚好,一台配置不错的笔记本电脑就能跑。它的前代 Qwen3.6-27B 已经相当出色,这一代自然更让人期待。

Qwen 自己公布的跑分非常亮眼:不仅超过 Qwen3.6-27B,也超过了闭源的 Qwen3.7-Plus。就在今年 5 月,Qwen3.7-Plus 还是 Qwen 全系列中最强的模型之一。当然,官方跑分只能作为参考,最终还得看后续的独立测试。

我在两台机器上跑了这款模型:一台是 128GB 内存的 M5 Max MacBook Pro,另一台是配备 128GB LPDDR5x 统一内存的 NVIDIA DGX Spark[4]。两台机器都使用 LM Studio,加载同一个 17GB 的 Q4_K_M 量化版本[5]。我还在 Spark 上直接试了 llama-server。

这里顺便算一下硬件成本。按照新加坡官网的价格,M5 Max MacBook Pro 14 英寸版 S5,999 起;升级到 128GB 内存后,再考虑屏幕尺寸和硬盘容量,整机大致会落在 S$7,000—9,000,约合人民币 4万—5万元。DGX Spark 的首发价为 3,999 美元,约合人民币 2.9万元。

默认推理开到最高,简单任务也会想个没完

Qwen 的文档写得很清楚:模型默认使用 xhigh 推理强度。我测试的 LM Studio GGUF 版本也沿用了这个设置:

Qwen3.8 正式支持 reasoning_effort,可用来调整推理深度和成本:

  • xhigh(默认):适合需要深入分析的复杂任务
  • medium:兼顾准确率和速度
  • low:优先考虑速度和成本

这个默认值实在有点好笑,尤其不适合消费级硬件。不过,它折腾出来的结果倒是很有娱乐效果。

我很快就碰到了 LM Studio 默认 8,192 token 的上下文上限。哪怕问题再简单,Qwen 也能把这些 token 全部用来思考。直到我把上下文长度拉到完整的 262,144,这个问题才算解决。

Overthinking 好像是 Qwen 3.8 的通病,小编上次测试在 ZCode 中调用也遇到没完没了思考的状况……

调大上下文后,我先让它画了一张鹈鹕骑自行车的 SVG。这一张图足足跑了 21 分钟:光推理就用了 22,276 个 token,最后又输出 3,223 个 token。完整的思考轨迹在这里[6]。

这是我用本地模型画过的最好一只鹈鹕。更夸张的是,生成它的模型文件只有 17GB。这张图有不少细节做得很好:

  1. 自行车车架的形状基本正确。
  2. 鹈鹕的两条腿分别放在自行车两侧,这种情况非常少见。
  3. 喉囊画得很清楚。
  4. 翅膀一直伸到了车把上。
  5. 动感线放在主体后方,没有挡住画面。
  6. 背景也很舒服,太阳、云、山丘、花草都有。

但为这张图等上 21 分钟,显然不值。

我随后关掉推理,用同一条提示词又跑了一次(完整记录[7])。这次输出 3,715 个 token,只用了 137 秒,也就是两分多钟。

作为对照,我还通过 OpenRouter 测了体量大得多的 Qwen3.8-2.4T-A95B。同样一条提示词,这款上周刚发布的模型生成了一张很漂亮的动态 SVG[8]:

xhigh 下的 Qwen 到底有多爱多想?我又给了它一条再简单不过的提示词,设置保持默认:

画一个圆的 SVG

结果,它一上来就想了这么多:

用户要求画一个圆的 SVG。任务很简单,但我希望它是一件经过认真设计的作品。不能只放一个 ``,可以做成一个有个性的独立 SVG 文件,比如一幅“圆形研究”:加上细微动画、层叠圆环和独特配色。

用户要的是一个圆的 SVG,所以核心仍然是圆。但我可以增加一些设计,例如同心辅助圆(像圆规或几何制图)、刻度、主圆柔和的渐变填充,以及克制的环境动画(缓慢旋转的虚线环、脉动光晕)。要兼容 prefers-reduced-motion 吗?那更偏 CSS;在 SVG 中使用 SMIL 或内嵌 CSS 就可以。

配色可以选暖纸色上的深青墨色,也可以用米白底、朱红圆和海军蓝辅助线,营造包豪斯或圆规制图的感觉。我选“几何研究”风格:冷色石板背景还是明亮纸白?……

几分钟后,它交出了一幅非常漂亮的动态圆形——只是我根本没要求这些。

所以我的建议很直接:第一次用 Qwen3.…

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/OpenSourceLLM/2026081796458.html