阿里 SkillWeaver:跳过加载全部工具,Agent Token 消耗直降 99%

想象你走进一家有 2209 道菜的超级餐厅,服务员不给你菜单,而是把每道菜的食材、做法、口味描述全部念给你听——念完大概要 3 个小时。等你终于听完,你大概率已经忘了前面说了什么,随便指了一道,结果还不是你想吃的。

这就是今天 AI Agent 面临的困境。当企业接入了成百上千个工具,Agent 要做的不是"能不能用",而是"该用哪个"。阿里巴巴研究院最新提出的 SkillWeaver 框架,用一种全新的思路解决了这个问题——不念菜单,按需上菜。在 2209 个真实 MCP 技能的基准测试中,Token 消耗从 884,000 降到约 1,160,降幅超过 99%,同时准确率大幅提升。

1

暴力塞入:当前 Agent 工具调用的死胡同

当前主流的 Agent 工具调用方式,本质上是"暴力塞入"——把所有工具的描述文档一股脑塞进 LLM 的上下文窗口,让模型自己选。就像把整本百科全书摊在桌上让你找一条信息,效率可想而知。

当企业级 Agent 接入 MCP 生态中成百上千的工具后,三个致命问题立刻暴露:

🔹 Token 爆炸 — 2209 个技能描述全部塞入提示词,单次查询就要吃掉约 884,000 Token。按 GPT-4 的定价,一次工具选择的成本就高得离谱

🔹 选择混乱 — 即使使用超大参数模型 Qwen-Max,在 2209 个工具面前,正确检索率仅 21.1%。模型被海量选项淹没,就像在 2209 道菜里盲选

🔹 上下文溢出 — 绝大多数 LLM 的上下文窗口根本装不下这么多工具描述,直接导致截断或报错

"Exposing an entire library to an LLM to find the right tool is highly inefficient, quickly overwhelms context limits, and consumes hundreds of thousands of tokens." — VentureBeat

暴力塞入 vs 精准路由:Token 消耗对比

暴力塞入(LLM-Direct)

2209 个工具描述全部塞入

LLM 上下文窗口
~884,000 Token · 21.1%

😫

又贵又慢又不准

VS

精准路由(SkillWeaver)

2209 工具→索引→Top-K

LLM 上下文窗口
~1,160 Token · 大幅领先

😊

又省又快又准

更深层的问题是:现有工具路由框架大多将路由视为"单技能选择"问题——每次只选一个工具。但真实的企业查询天然是组合式的。"下载数据集、转换格式、生成可视化报告"这样的需求,一个工具根本搞不定,就像做一道菜不能只靠一把刀。

2

SkillWeaver 三阶段架构:分解、检索、组合

SkillWeaver 的核心思路可以用做菜来类比:先想好要做哪几道菜(分解),再去冰箱拿对应的食材(检索),最后按顺序下锅(组合)。三个阶段形成一条从模糊需求到可执行工作流的完整管线:

Decompose

任务分解

拆为原子子任务

 → 

Retrieve

技能检索

语义匹配 Top-K

 → 

Compose

计划组合

生成 DAG 执行图

↑ SAD 反馈环路贯穿始终 ↑

用户查询 → 子任务序列 → 候选技能集 → 可执行工作流

以"下载数据集、转换格式、生成可视化报告"为例,走一遍完整流程:

Step 1 — Decompose(想好做哪几道菜) 拆解为三个子任务:① 下载数据集 ② 数据转换 ③ 生成报告

Step 2 — Retrieve(去冰箱拿食材) 语义检索召回候选:

📌 任务① → api-client、http-fetch

📌 任务② → csv-parser、etl-pipeline

📌 任务③ → chart-gen、report-builder

Step 3 — Compose(按顺序下锅) 评估兼容性,最终选择 api-client → csv-parser → chart-gen,输出可执行的 DAG 工作流

🤔 什么是 DAG?

DAG(有向无环图)听起来吓人,其实就是一张"工序流程图"。想象做一桌菜:洗菜和煮饭可以同时进行(并行),但炒菜必须等洗菜完成(依赖)。DAG 就是把这种"谁先谁后、谁能并行"的关系画成一张图。SkillWeaver 在 Compose 阶段输出的就是这样一张图——Agent 拿到图后,能并行执行的步骤就并行,有依赖的就按顺序来,效率最大化。

DAG 示例:下载数据集 → 转换格式 → 生成报告

api-client

下载数据集

 → 

csv-parser

格式转换

 → 

chart-gen

生成报告

Step 1(无依赖)→ Step 2(依赖 Step 1)→ Step 3(依赖 Step 2)

有依赖关系按顺序执行,无依赖的可并行——这就是 DAG

3

SAD:让 LLM 学会用"工具的语言"说话

SkillWeaver 最核心的创新不是三阶段管线本身,而是穿插其中的反馈环路——迭代式技能感知分解(Skill-Aware Decomposition, SAD)。

先看一个生活中的类比:你去外地出差,问路人"附近有超市吗?"对方一脸茫然——因为当地人管超市叫"合作社"。你用你的词,他用他的词,沟通就断了。SAD 解决的就是这个问题。

LLM 分解任务时,倾向于生成通用、模糊的步骤描述("获取数据"),而技能库中的工具使用特定技术术语("api-client"、"http-fetch")。词汇不匹配,检索就失灵——就像你问"超市",地图上标注的是"合作社",永远搜不到。

SAD 反馈环路:生成 → 检索 → 回注 → 重写

① LLM 分解

"获取数据"

 → 

② 语义检索

找到 api-client 等

 → 

③ 回注工具描述

"库里有 api-client"

↓

✓ 对齐完成

词汇与工具库匹配

 ← 

④ LLM 重写

"用 api-client 获取"

 ↻ 再次检索

就像当地人告诉你"我们这儿叫合作社",你下次就会用对名字

SAD 本质上是一种"对齐"机制——它让 LLM 的思维框架从"我该怎么做这件事"转向"这个工具库里有现成的什么能力可以组合"。就像你学会了当地人的叫法,下次问路就能精准命中。

SAD 效果对比:分解准确率提升

7B · 无 SAD

51.0%

7B · + SAD ↑33%

67.7%

14B · 无 SAD ⚠ 反直觉!更差

Qwen-Max · + SAD

92%

配置
分解准确率
SAD 加持后
Qwen2.5-7B(原始)
51.0%
67.7%
Qwen-Max(大模型)
—
92%

在需要 4-5 个技能协作的"困难"任务上,SAD 更是将准确率提升了 50%。反馈环路不是锦上添花,而是整个框架能不能用的关键开关。

4

反直觉:更大的模型可能更差

实验中发现了一个极具启发性的反直觉现象:在没有 SAD 引导的情况下,14B 参数模型的分解准确率竟然低于 7B 模型。

打个比方:让一个资深大厨和一个新手分别写采购清单。大厨知识丰富,把"做红烧肉"拆成了"选五花三层→切3cm方块→冷水下锅焯水→炒糖色→加八角桂皮→……"七八个步骤;新手只写了"买五花肉和调料"。结果超市里只有"猪肉-五花"和"调味料包"两个品类——大厨的细碎步骤在货架上根本找不到对应项,新手的粗粒度描述反而一搜就中。

⚠️ 过度分解陷阱

更大的模型倾向于将任务分解得过于细碎——把本该一步完成的操作拆成四五步微观子任务。这些微观步骤在技能库中根本找不到匹配的工具,导致检索阶段全面失败。能力越强,"想太多"的倾向越严重,结果反而越差。

而 SAD 的回注机制恰好解决了这个问题:检索到的真实工具描述像"锚"一样,把大模型的分解粒度拉回现实。大厨看到货架上只有"猪肉-五花",就会把七八个步骤合并成"采购猪肉-五花"——基于"工具库实际上有什么"来规划,而不是天马行空地拆解。

"Aligning an agent with the vocabulary of specific tools is often more impactful than paying for a larger, more expensive LLM." — 论文核心结论

这对工程实践的启示是颠覆性的:与其花更多钱买更大的模型,不如花心思设计好工具对齐机制。一个 7B 小模型 + 好的路由策略,完全可以打败裸奔的 14B 甚至更大模型。

5

Token 消耗降 99.9%:一笔算得清的账

99.9% 的降幅听起来像魔法,但拆开算,逻辑非常清晰。关键在于理解两种方法在"谁干活"上的根本差异:

方法
Token 消耗
准确率
LLM-Direct(暴力塞入)
~884,000
21.1%
SkillWeaver(精准路由)
~1,160
大幅领先

Token 消耗对比:降幅 99.9%

~884,000 Token

LLM-Direct 暴力塞入 · 准确率 21.1% 😫

~1,160 Token 降 99.9%

SkillWeaver

← 右边这根柱子只有左边的 1/762

📊 逐步拆解:884,000 → 1,160 是怎么来…

— 以上为试看内容(约 40%),开通会员后阅读全文 —