Harness 与 Agent 工程 · AI研发与测试工程 · 2025-11-09

Anthropic革命性方案:AI Agent从15万Token干到2千Token的秘密

Anthropic突破性方案揭秘:AI Agent的Token消耗直降98.9%,从底层重构工作方式。

核心内容:

  1. 传统AI Agent架构的Token消耗痛点分析
  2. Anthropic革命性方案的技术原理与架构革新
  3. 实际案例展示:处理10,000行CSV文件Token消耗从75万降到8千

大家好,之前连着写了两篇——一篇是用tmux让Claude Code 24/7不间断干活,另一篇是Router混用多模型省钱70%。说实话,那两篇写完我自己也在用,效果确实不错。tmux解决了会话中断的问题,Router解决了模型选择的问题,感觉已经把Claude Code能优化的地方都折腾遍了。

但你想想,这些方案本质上都是在"省着用"——换便宜的模型、用完就断开会话、想办法减少调用次数。就像你家里水费贵,你想的办法是少洗澡、换个便宜点的供水公司。治标不治本啊。

真正的问题在哪儿? 你想想,处理一个10,000行的CSV文件做数据分析,Claude Code能烧掉多少Token?答案是75万!这不是个例,这是Claude Code的日常。用订阅账号的话,高Token消耗会快速耗尽每天5小时的使用限制;用API的话,成本也会很高。

直到前几天Anthropic发了一篇技术博客,我才恍然大悟——问题根本不仅仅是模型贵不贵,而是整个工具调用的架构就有问题。 就像你家水费贵不是因为水价高,而是因为水管一直在漏水。

Anthropic这次提出的代码执行方案,怎么说呢,不是小修小补,是从底层架构上重新设计了AI Agent的工作方式。根据官方测试,处理同一个CSV文件,Token消耗从756,539直接降到8,369——降了98.9%!

这篇文章我就用最接地气的方式,把这个方案拆开了讲清楚。看完你就明白,为什么说这才是真正解决Token消耗的"道",而不是之前那些"术"。


一、问题的本质:AI Agent的"记忆负担"

1.1 Token到底是个啥?为什么它是个大问题?

在讲解决方案之前,咱们先把Token这个东西说清楚。很多人用Claude Code,根本不知道背后的Token消耗有多恐怖。

生活化比喻:

为什么Token消耗是个大问题?

对于订阅用户(Pro/Max/Team):

对于API用户:

共同的问题:

Token与实际内容的对应:

1.2 Claude Code的Token交换机制——问题藏在这里

真的,大多数人用Claude Code的时候根本意识不到背后在发生什么。我来给你详细拆解一下:

当你输入一个提示词,Claude Code CLI实际在做什么:

看到没有?最坑的地方不是数据本身,而是每次请求都要重复发送那4万Token的工具定义!

关键问题:Token消耗的"雪球效应"

第1轮对话:43k输入 + 0.2k输出 = 43.2k第2轮对话:186k输入 + 2k输出 = 188k(包含第1轮历史)第3轮对话:374k输入 + 1k输出 = 375k(包含前2轮历史)第4轮对话:可能超过上下文限制!

实际Token消耗公式:

每次请求Token = 系统提示词(3k) + 工具定义(40k) + 累积历史 + 新内容例如第5轮对话:= 3,000 + 40,000 + 200,000(前4轮累积) + 新内容= 243,000 Token起步!

1.3 传统AI Agent面临的四大困境

让我用生活化的例子来说明传统AI Agent的问题:

场景假设: 你要让AI助手帮你完成一个任务——"从Google Drive下载一份会议记录,然后上传到Salesforce"

困境1: 工具定义占用大量空间(就像背字典)

传统做法:AI需要先把所有可能用到的工具说明书全部记在脑子里,即使这次用不到。而且每次API请求都要重新发送一遍所有工具定义!

类比: 你要查一个词,却被要求先把整本字典背下来, 而且每次查新词都要重新背一遍!

具体表现:

而实际上,这个任务只需要用到Google Drive和Salesforce两个工具!

困境2: 中间结果反复传递 + 历史对话累积(双重负担)

关键问题:

  1. 数据必须经过AI上下文 - 10,000 Token的CSV内容不能直接从Drive传到Salesforce
  2. 每次都要重发工具定义 - 50k的工具定义在每次请求中重复发送
  3. 历史对话不断累积 - 第2步要包含第1步的所有内容,第3步要包含前两步的所有内容
  4. 雪球效应 - Token消耗呈指数级增长: 53k → 116k → 169k

类比说明:就像你让快递员送一个包裹:

  1. 快递员先背诵所有快递规则(每次都要)
  2. 拿到包裹,记录所有细节
  3. 回到总部汇报(带着包裹)
  4. 再次背诵规则,复述之前的对话
  5. 才能送到B地

困境3: 无法处理复杂逻辑(就像不会使用计算器)

当任务涉及循环、条件判断等复杂逻辑时,传统方式需要AI来回调用工具多次:

示例任务: "找出所有金额超过100万的客户"

传统方式需要:

  1. 调用工具获取客户列表 (往返1次)
  2. 对每个客户判断金额 (每个客户往返1次)
  3. 汇总结果 (往返1次)

如果有100个客户,就需要往返100多次!

困境4: 历史对话无限累积(Token的"雪球效应")

这是最容易被忽视但最严重的问题!

实际场景:处理一个数据分析任务

对话轮次 本次新增 累积历史 请求总Token第1轮: 1k 0k 44k (系统3k+工具40k+内容1k)第2轮: 100k 44k 187k (系统3k+工具40k+历史44k+新100k)第3轮: 5k 187k 235k (系统3k+工具40k+历史187k+新5k)第4轮: 2k 235k 280k (系统3k+工具40k+历史235k+新2k)第5轮: 1k 280k 324k (已经超过很多模型上限!)

类比说明:就像滚雪球:

为什么会这样?

// Claude Code每次请求都必须包含:{system: "...", // 3k Token (每次重复)tools: [...], // 40k Token (每次重复)messages: [ // 所有历史对话都在这里! {role: "user", content: "第1轮..."}, {role: "assistant", content: "回复1..."}, {role: "user", content: "工具结果1..."}, {role: "assistant", content: "回复2..."}, {role: "user", content: "工具结果2..."}, // ... 不断累积,永不清理! ]}

二、Anthropic的解决方案:代码执行模式

2.1 核心思想:让AI写代码而不是调用工具

Anthropic的方案可以用一句话概括:

不要让AI直接调用工具,而是让AI写一段代码来调用工具!

为什么这样做?

2.2 MCP是什么?

MCP (Model Context Protocol) 是Anthropic推出的一个标准协议,就像USB接口一样统一了工具调用的标准。

2.3 传统方式 vs 代码执行方式 架构对比

先看一张架构对比图,你就明白差在哪儿了:

关键区别:

  1. 工具加载方式

2.4 数据流动对比——这是关键!

再看一张数据流动的时间线对比图:

传统方式的痛点:

新方式的巧妙之处:


三、为什么能省这么多Token?三大核心机制

好了,前面讲了问题在哪儿,现在讲讲Anthropic这个方案到底是怎么省Token的。

3.1 机制一:按需加载工具定义

传统方式的浪费:

你想想,Claude Code连接了50个MCP工具,每次请求都要:

  1. 把50个工具的说明书全部塞进上下文(可能5万Token)
  2. 即使这次只用2个工具,其他48个的说明书也得带着
  3. 更坑的是:每次请求都要重复发送一遍!
第1次请求:系统提示(3k) + 50个工具(50k) + 问题(0.1k) = 53k第2次请求:系统提示(3k) + 50个工具(50k) + 历史(53k) + 数据(10k) = 116k第3次请求:系统提示(3k) + 50个工具(50k) + 历史(116k) + 新问题 = 169k总计:338k Token,而且大部分是重复的工具定义!

代码执行方式的巧妙:

把工具变成磁盘上的文件:

./servers/ └── google-drive/ ├── getDocument.ts // 这个文件占0 Token! ├── uploadFile.ts // 在磁盘上,不在AI上下文里 └── listFiles.ts

AI需要用哪个工具,就读那个文件。不需要的根本不碰。

类比理解:

关键:不是省50k Token,而是省了50k × N次请求!

3.2 机制二:数据在沙箱里流动(最核心)

这是整个方案最精妙的地方!

生活化类比:

你是公司老板(AI),要把一批货物(10,000行CSV数据)从仓库A运到仓库B。

传统方式:

  1. 你要亲自查看每一件货物(10,000行数据进入AI上下文)
  2. 记录详细信息(消耗10,000 Token)
  3. 告诉司机怎么运(又传一遍,再消耗10,000 Token)
  4. 你的大脑(上下文)被货物信息占满了!

新方式:

  1. 你只需要写一张派送单(500 Token的代码)
  2. 司机按派送单直接从A运到B(数据在沙箱里流动)
  3. 你的大脑只记住派送单,不需要记住货物详情!

代码示例对比:

// 传统方式:数据必须经过AI上下文// 步骤1:AI调用工具获取数据result1 = callTool("googleDrive.getDocument", { id: "abc123" })// ⚠️ result1的10,000 Token内容进入AI上下文// 步骤2:AI看到数据,分析处理// (AI需要在上下文中处理这10,000 Token)// 步骤3:AI调用工具上传callTool("salesforce.updateRecord", { data: result1 })// ⚠️ 又把10,000 Token传一遍// AI上下文负担:10,000 × 2 = 20,000 Token// ===== 新方式:数据不进AI上下文 =====// AI只写一段代码(500 Token):import { go…
— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/LargeLanguageModel/2025110925439.html