腾讯新作 GraSP:给 LLM Agent 塞更多技能反而更笨?把技能编译成 DAG,奖励飙 19 分、步数砍 41%
一句话讲清楚👉🏻 腾讯提出 GraSP ,把扁平的技能列表编译成一张带"前置条件-效果"依赖的类型化 DAG ,一次失败只修局部 O(d^h) 子图而不是重规划整条链 O(N),在 ALFWorld / ScienceWorld / WebShop / InterCode 上用 8 种大模型跑全部 48 个配置全部胜出,奖励最多提升 19 分,环境交互步数最多减少 41%。
一、先说一个反直觉的现象:技能越多, Agent 越笨
过去一年多, Agent 社区有一个基本假设:只要我们给 LLM 配上足够多的技能( skills / tools / APIs ),它就能应付足够复杂的任务。于是大家疯狂扩充技能库, Voyager 囤了一屋子, Gorilla 对着几千个 API 学, ToolLLM 、 ToolNet 一路卷到几万。
但是,近期一批基准测试揭露了一个让人有点尴尬的现象:给 Agent 更多技能,并不会单调地提升性能,反而经常让性能掉下来。
论文里有一组非常干脆的数据:
用最粗暴的话说:瓶颈已经不是 技能够不够用了,而是 Agent 不知道怎么把技能搭起来用。技能生态从"不够多"切换到"不知道怎么编排"。
这个现象背后,有两个很具体的技术根因。
第一个是认知过载。 把检索到的所有技能一股脑塞进 prompt ,会吃掉宝贵的上下文预算,而且技能描述本身就很长,模型注意力被稀释,相关信息反而被淹没。
第二个问题更致命:扁平执行丢掉了因果结构。 真实任务里的技能之间是有前置条件、效果和依赖关系的:你得先拿到钥匙才能开门,先登录才能下单,先 git add 才能 git commit。但现有的 Agent 框架( ReAct 、 Reflexion 、 ExpeL )把技能当作一个个独立的动作线性执行,一旦中间任何一步失败,整条后续都作废,必须从头重规划——这是 O(N) 的开销。
腾讯这篇 GraSP 直接给这个问题拍了板:在"技能检索"和"技能执行"之间,缺了一层叫"技能编排( orchestration )"的编译层。检索告诉你"哪些技能相关",执行告诉你"现在做什么",但中间没人告诉你"这些技能之间怎么依赖"。这一层缺失,才是扁平 Agent 脆弱的根源。
二、 GraSP 的核心主张:把技能列表编译成一张带类型的 DAG
GraSP 的全称是 Graph-Structured Skill Compositions。思路非常朴素:既然扁平序列不行,那就把技能搭成一张图。
整个系统有四阶段流水线,每个阶段都对应一个具体的问题:
阶段一:记忆条件检索( Memory-conditioned Retrieval )。 从大技能库里选出一个聚焦子集。这里不是只做语义匹配,而是把情景记忆也融合进来——以前成功轨迹里频繁出现的技能组合会被更高权重地选出来,同时还会输出一个校准过的置信度分数。
阶段二: DAG 编译( DAG Compilation )。 这是 GraSP 最核心的创新。把选出来的技能编译成一张类型化有向无环图,每条边都明确标注是哪种依赖关系。
阶段三:带校验的执行( Verified Execution )。 按拓扑顺序遍历图,每个节点执行前检查前置条件,执行后检查后置条件,出了问题立刻发现。
阶段四:局部修复( Local Repair )。 节点失败时只修它所在的局部子图,不碰已经验证过的其它部分;修不动再升级到全局重规划;还不行就降级到 ReAct 兜底。
三种边:把"技能之间的关系"显式写出来
DAG 上的每一条边都是类型化的,这个设计是让"局部修复"能成立的关键前提。
State 边(u, state, v):表示 u 的某个效果 满足 v 的某个前置条件。比如 pick_up_key 的效果是"持有钥匙",open_door 的前置条件是"持有钥匙",两者之间就是一条 state 硬边。
Data 边(u, data, v):表示 u 的输出 直接绑定到 v 的输入。比如 search_product(query) 返回商品 ID ,add_to_cart(product_id) 需要用这个 ID 。这也是硬边。
Order 边(u, order, v):来自经验记忆或者资源冲突的软优先约束。没有严格因果依赖,只是"按这个顺序成功率更高"。这是软边,修复时可以断开重连。
硬边是骨架不能动,软边是润滑剂可以调整,这个区分让系统在修复时能精准知道哪些约束不能破、哪些可以灵活变通。
每个节点的属性结构
GraSP 用一个八元组描述每个技能节点:
其中 κ_v 是技能 schema ,θ_v 是绑定的参数,φ_v^pre 和 φ_v^eff 分别是前置条件和后置条件,ν_v 是校验器,ζ_v 是执行状态, c_v 是置信度, b_v 是修复预算。
这套属性不是装饰,每一项在后续的编译、校验、修复阶段都会被用到。特别是修复预算 b_v ,它决定了一个节点最多能被修复多少次,防止陷入无限修复循环。
三、五个类型化修复操作符:局部化修复的"代数"
这是 GraSP 第二个核心贡献。当某个节点 v_f 执行失败,系统不会去重规划整条链,而是根据失败类型,在 v_f 的 h-跳邻域内应用五个形式化操作符之一。
| Rebind | ||
| InsertPrereq | ||
| Substitute | ||
| Rewire | ||
| Bypass |
举一个具体的例子:在 ALFWorld 里, Agent 想 heat_object(tomato, microwave) 失败了,原因是微波炉的门是关的。
open(microwave) 子图,原来的后继节点一个都不动,代价 O(d^h)。论文给出了这个"局部化"的规模界限:每次修复补丁节点数 |ΔV| ≤ L_max (默认 3 ),补丁边数 |ΔE| ≤ E_max (默认 5 ),邻域半径 h=2 。在 ALFWorld 典型任务里,出度 d ≈ 2 ,受影响子图稳定控制在 4~5 个节点,与计划总长度无关。
为什么 O(N) → O(d^h) 是本质差异
这个复杂度的跳变值得多解释两句。
扁平链的脆弱性在于:第 k 步失败时,后续的 N-k 步都是基于"第 k 步成功"的假设写出来的,全都要作废。任务越长 N 越大,一次失败的代价就越惨烈。
而 DAG 结构有一个关键性质:节点 v 的失败,只让它的拓扑后代作废。如果 v 的出度是 d ,往下走 h 层受影响的节点数是 d + d² + ... + d^h = O(d^h)。只要 d 和 h 有界(实际工程里 d=2, h=2 ),这个开销就是常数级的,和整个计划的长度 N 完全脱钩。
这也解释了为什么 GraSP 的优势会随着任务复杂度放大:短任务 N 小,扁平模式也没吃多大亏;任务越长, O(N) 和 O(d^h) 的差距被放得越开。
四、两个关键公式:检索与置信度的数学表达
融合检索…