上一次,我们测试了 Qwen3.8-Max。测完之后,我最期待的其实是 27B 版本。现在,它终于来了。
从小编的角度看,在 DeepSeek 大幅调价的当下,27B 其实是目前最有性价比的端侧 Agent 模型。包括今天中午我们智能体交流群里也有人反馈本地部署的 27B 还挺好用的(使用的显卡是AMD 7900 XTX(24GB显存),在workbuddy上输出速度大概62tok/s)。
无论是个人还是小型团队,只要需要高强度使用 Agent,或对数据安全有很高要求,27B 这个尺寸的模型绝对是不二之选。
本文编译自外网,原文作者 Simon Willison[1] 是开源数据工具 Datasette[2] 的创建者,也是 Django Web Framework 的联合创建者。他长期关注 Web 开发、开源软件和 AI 工具,并从 2002 年起持续写作。
以下是原文内容。
上周五,Qwen3.8-27B[3] 正式发布。这是阿里巴巴 Qwen 团队推出的一款 270 亿参数视觉语言模型,采用 Apache 2 许可证。
我等这款模型很久了。27B 的体量刚刚好,一台配置不错的笔记本电脑就能跑。它的前代 Qwen3.6-27B 已经相当出色,这一代自然更让人期待。
Qwen 自己公布的跑分非常亮眼:不仅超过 Qwen3.6-27B,也超过了闭源的 Qwen3.7-Plus。就在今年 5 月,Qwen3.7-Plus 还是 Qwen 全系列中最强的模型之一。当然,官方跑分只能作为参考,最终还得看后续的独立测试。
我在两台机器上跑了这款模型:一台是 128GB 内存的 M5 Max MacBook Pro,另一台是配备 128GB LPDDR5x 统一内存的 NVIDIA DGX Spark[4]。两台机器都使用 LM Studio,加载同一个 17GB 的 Q4_K_M 量化版本[5]。我还在 Spark 上直接试了 llama-server。
这里顺便算一下硬件成本。按照新加坡官网的价格,M5 Max MacBook Pro 14 英寸版 S5,999 起;升级到 128GB 内存后,再考虑屏幕尺寸和硬盘容量,整机大致会落在 S$7,000—9,000,约合人民币 4万—5万元。DGX Spark 的首发价为 3,999 美元,约合人民币 2.9万元。
默认推理开到最高,简单任务也会想个没完
Qwen 的文档写得很清楚:模型默认使用 xhigh 推理强度。我测试的 LM Studio GGUF 版本也沿用了这个设置:
Qwen3.8 正式支持
reasoning_effort,可用来调整推理深度和成本:
xhigh(默认):适合需要深入分析的复杂任务medium:兼顾准确率和速度low:优先考虑速度和成本
这个默认值实在有点好笑,尤其不适合消费级硬件。不过,它折腾出来的结果倒是很有娱乐效果。
我很快就碰到了 LM Studio 默认 8,192 token 的上下文上限。哪怕问题再简单,Qwen 也能把这些 token 全部用来思考。直到我把上下文长度拉到完整的 262,144,这个问题才算解决。
Overthinking 好像是 Qwen 3.8 的通病,小编上次测试在 ZCode 中调用也遇到没完没了思考的状况……
调大上下文后,我先让它画了一张鹈鹕骑自行车的 SVG。这一张图足足跑了 21 分钟:光推理就用了 22,276 个 token,最后又输出 3,223 个 token。完整的思考轨迹在这里[6]。
这是我用本地模型画过的最好一只鹈鹕。更夸张的是,生成它的模型文件只有 17GB。这张图有不少细节做得很好:
- 自行车车架的形状基本正确。
- 鹈鹕的两条腿分别放在自行车两侧,这种情况非常少见。
- 喉囊画得很清楚。
- 翅膀一直伸到了车把上。
- 动感线放在主体后方,没有挡住画面。
- 背景也很舒服,太阳、云、山丘、花草都有。
但为这张图等上 21 分钟,显然不值。
我随后关掉推理,用同一条提示词又跑了一次(完整记录[7])。这次输出 3,715 个 token,只用了 137 秒,也就是两分多钟。
作为对照,我还通过 OpenRouter 测了体量大得多的 Qwen3.8-2.4T-A95B。同样一条提示词,这款上周刚发布的模型生成了一张很漂亮的动态 SVG[8]:
xhigh 下的 Qwen 到底有多爱多想?我又给了它一条再简单不过的提示词,设置保持默认:
画一个圆的 SVG
结果,它一上来就想了这么多:
用户要求画一个圆的 SVG。任务很简单,但我希望它是一件经过认真设计的作品。不能只放一个 ``,可以做成一个有个性的独立 SVG 文件,比如一幅“圆形研究”:加上细微动画、层叠圆环和独特配色。
用户要的是一个圆的 SVG,所以核心仍然是圆。但我可以增加一些设计,例如同心辅助圆(像圆规或几何制图)、刻度、主圆柔和的渐变填充,以及克制的环境动画(缓慢旋转的虚线环、脉动光晕)。要兼容 prefers-reduced-motion 吗?那更偏 CSS;在 SVG 中使用 SMIL 或内嵌 CSS 就可以。
配色可以选暖纸色上的深青墨色,也可以用米白底、朱红圆和海军蓝辅助线,营造包豪斯或圆规制图的感觉。我选“几何研究”风格:冷色石板背景还是明亮纸白?……
几分钟后,它交出了一幅非常漂亮的动态圆形——只是我根本没要求这些。
所以我的建议很直接:第一次用 Qwen3.…