大家好,之前连着写了两篇——一篇是用tmux让Claude Code 24/7不间断干活,另一篇是Router混用多模型省钱70%。说实话,那两篇写完我自己也在用,效果确实不错。tmux解决了会话中断的问题,Router解决了模型选择的问题,感觉已经把Claude Code能优化的地方都折腾遍了。
但你想想,这些方案本质上都是在"省着用"——换便宜的模型、用完就断开会话、想办法减少调用次数。就像你家里水费贵,你想的办法是少洗澡、换个便宜点的供水公司。治标不治本啊。
真正的问题在哪儿? 你想想,处理一个10,000行的CSV文件做数据分析,Claude Code能烧掉多少Token?答案是75万!这不是个例,这是Claude Code的日常。用订阅账号的话,高Token消耗会快速耗尽每天5小时的使用限制;用API的话,成本也会很高。
直到前几天Anthropic发了一篇技术博客,我才恍然大悟——问题根本不仅仅是模型贵不贵,而是整个工具调用的架构就有问题。 就像你家水费贵不是因为水价高,而是因为水管一直在漏水。
Anthropic这次提出的代码执行方案,怎么说呢,不是小修小补,是从底层架构上重新设计了AI Agent的工作方式。根据官方测试,处理同一个CSV文件,Token消耗从756,539直接降到8,369——降了98.9%!
这篇文章我就用最接地气的方式,把这个方案拆开了讲清楚。看完你就明白,为什么说这才是真正解决Token消耗的"道",而不是之前那些"术"。
一、问题的本质:AI Agent的"记忆负担"
1.1 Token到底是个啥?为什么它是个大问题?
在讲解决方案之前,咱们先把Token这个东西说清楚。很多人用Claude Code,根本不知道背后的Token消耗有多恐怖。
生活化比喻:
- Token就像AI的"脑容量单位"
- 就像人脑一次只能记住有限的信息
- AI每次处理的Token数量也有上限(Claude的上下文窗口是200K个Token)
为什么Token消耗是个大问题?
对于订阅用户(Pro/Max/Team):
- Token消耗直接影响使用效率
- 高Token消耗会快速耗尽每天5小时的使用限制
- 同样的任务,Token少意味着能完成更多工作
- 大型任务可能瞬间耗尽你一天的配额
对于API用户:
- 每处理1000个Token都要花钱
- Token越多,成本越高
- Claude定价:输入15/M Token
共同的问题:
- Token越多,响应越慢
- Token过多会超出AI的"记忆容量"(Claude上下文窗口200K)
Token与实际内容的对应:
- 1个Token ≈ 0.75个英文单词
- 1个Token ≈ 1-2个中文字符
- 100,000 Token ≈ 75,000个英文单词 ≈ 200页A4纸
1.2 Claude Code的Token交换机制——问题藏在这里
真的,大多数人用Claude Code的时候根本意识不到背后在发生什么。我来给你详细拆解一下:
当你输入一个提示词,Claude Code CLI实际在做什么:
看到没有?最坑的地方不是数据本身,而是每次请求都要重复发送那4万Token的工具定义!
关键问题:Token消耗的"雪球效应"
第1轮对话:43k输入 + 0.2k输出 = 43.2k第2轮对话:186k输入 + 2k输出 = 188k(包含第1轮历史)第3轮对话:374k输入 + 1k输出 = 375k(包含前2轮历史)第4轮对话:可能超过上下文限制!
实际Token消耗公式:
每次请求Token = 系统提示词(3k) + 工具定义(40k) + 累积历史 + 新内容例如第5轮对话:= 3,000 + 40,000 + 200,000(前4轮累积) + 新内容= 243,000 Token起步!
1.3 传统AI Agent面临的四大困境
让我用生活化的例子来说明传统AI Agent的问题:
场景假设: 你要让AI助手帮你完成一个任务——"从Google Drive下载一份会议记录,然后上传到Salesforce"
困境1: 工具定义占用大量空间(就像背字典)
传统做法:AI需要先把所有可能用到的工具说明书全部记在脑子里,即使这次用不到。而且每次API请求都要重新发送一遍所有工具定义!
类比: 你要查一个词,却被要求先把整本字典背下来, 而且每次查新词都要重新背一遍!
具体表现:
- Google Drive工具说明: 2000个Token
- Salesforce工具说明: 3000个Token
- Slack工具说明: 1500个Token
- Gmail工具说明: 2000个Token
- ... (还有几十个工具)
- 总计: 可能高达50,000+ Token
- 每次请求都要发送: 50,000 × N次请求 = 巨大浪费!
而实际上,这个任务只需要用到Google Drive和Salesforce两个工具!
困境2: 中间结果反复传递 + 历史对话累积(双重负担)
关键问题:
- 数据必须经过AI上下文 - 10,000 Token的CSV内容不能直接从Drive传到Salesforce
- 每次都要重发工具定义 - 50k的工具定义在每次请求中重复发送
- 历史对话不断累积 - 第2步要包含第1步的所有内容,第3步要包含前两步的所有内容
- 雪球效应 - Token消耗呈指数级增长: 53k → 116k → 169k
类比说明:就像你让快递员送一个包裹:
- 正常情况: 直接从A地送到B地
- 传统AI:
- 快递员先背诵所有快递规则(每次都要)
- 拿到包裹,记录所有细节
- 回到总部汇报(带着包裹)
- 再次背诵规则,复述之前的对话
- 才能送到B地
困境3: 无法处理复杂逻辑(就像不会使用计算器)
当任务涉及循环、条件判断等复杂逻辑时,传统方式需要AI来回调用工具多次:
示例任务: "找出所有金额超过100万的客户"
传统方式需要:
- 调用工具获取客户列表 (往返1次)
- 对每个客户判断金额 (每个客户往返1次)
- 汇总结果 (往返1次)
如果有100个客户,就需要往返100多次!
困境4: 历史对话无限累积(Token的"雪球效应")
这是最容易被忽视但最严重的问题!
实际场景:处理一个数据分析任务
对话轮次 本次新增 累积历史 请求总Token第1轮: 1k 0k 44k (系统3k+工具40k+内容1k)第2轮: 100k 44k 187k (系统3k+工具40k+历史44k+新100k)第3轮: 5k 187k 235k (系统3k+工具40k+历史187k+新5k)第4轮: 2k 235k 280k (系统3k+工具40k+历史235k+新2k)第5轮: 1k 280k 324k (已经超过很多模型上限!)
类比说明:就像滚雪球:
- 开始: 小雪球(初始对话)
- 滚第1圈: 粘上更多雪(加入工具结果)
- 滚第2圈: 雪球急剧变大(历史不断累积)
- 滚第3圈: 已经推不动了(接近Token上限)
为什么会这样?
// Claude Code每次请求都必须包含:{system: "...", // 3k Token (每次重复)tools: [...], // 40k Token (每次重复)messages: [ // 所有历史对话都在这里! {role: "user", content: "第1轮..."}, {role: "assistant", content: "回复1..."}, {role: "user", content: "工具结果1..."}, {role: "assistant", content: "回复2..."}, {role: "user", content: "工具结果2..."}, // ... 不断累积,永不清理! ]}
二、Anthropic的解决方案:代码执行模式
2.1 核心思想:让AI写代码而不是调用工具
Anthropic的方案可以用一句话概括:
不要让AI直接调用工具,而是让AI写一段代码来调用工具!
为什么这样做?
- AI擅长写代码
- 代码可以在独立环境中运行,不占用AI的记忆空间
- 代码可以直接处理数据,无需来回传递
2.2 MCP是什么?
MCP (Model Context Protocol) 是Anthropic推出的一个标准协议,就像USB接口一样统一了工具调用的标准。
2.3 传统方式 vs 代码执行方式 架构对比
先看一张架构对比图,你就明白差在哪儿了:
关键区别:
- 工具加载方式
- 传统:一次性加载所有50个工具定义 (50,000 Token)
-
新方式:按需加载2个工具 (2,000 Token)
-
数据处理位置
- 传统:数据必须进入AI上下文
- 新方式:数据在沙箱中处理,AI看不到
- Token消耗
- 传统:100,500+ Token,而且每次都重复发送工具定义
- 新方式:3,500 Token,稳定不增长
2.4 数据流动对比——这是关键!
再看一张数据流动的时间线对比图:
传统方式的痛点:
- 数据必须经过AI上下文
- 每次传递都消耗Token
- 第二次传递时又带上了第一次的数据
新方式的巧妙之处:
- 数据在沙箱中直接流动
- AI只看到代码和执行结果
- 20,000 Token的数据从未进入AI上下文
三、为什么能省这么多Token?三大核心机制
好了,前面讲了问题在哪儿,现在讲讲Anthropic这个方案到底是怎么省Token的。
3.1 机制一:按需加载工具定义
传统方式的浪费:
你想想,Claude Code连接了50个MCP工具,每次请求都要:
- 把50个工具的说明书全部塞进上下文(可能5万Token)
- 即使这次只用2个工具,其他48个的说明书也得带着
- 更坑的是:每次请求都要重复发送一遍!
第1次请求:系统提示(3k) + 50个工具(50k) + 问题(0.1k) = 53k第2次请求:系统提示(3k) + 50个工具(50k) + 历史(53k) + 数据(10k) = 116k第3次请求:系统提示(3k) + 50个工具(50k) + 历史(116k) + 新问题 = 169k总计:338k Token,而且大部分是重复的工具定义!
代码执行方式的巧妙:
把工具变成磁盘上的文件:
./servers/ └── google-drive/ ├── getDocument.ts // 这个文件占0 Token! ├── uploadFile.ts // 在磁盘上,不在AI上下文里 └── listFiles.ts
AI需要用哪个工具,就读那个文件。不需要的根本不碰。
类比理解:
- 传统方式:去图书馆前,把所有书的目录都背下来(每次去都要背一遍)
- 新方式:到图书馆后,需要什么书就去找那本书
关键:不是省50k Token,而是省了50k × N次请求!
3.2 机制二:数据在沙箱里流动(最核心)
这是整个方案最精妙的地方!
生活化类比:
你是公司老板(AI),要把一批货物(10,000行CSV数据)从仓库A运到仓库B。
传统方式:
- 你要亲自查看每一件货物(10,000行数据进入AI上下文)
- 记录详细信息(消耗10,000 Token)
- 告诉司机怎么运(又传一遍,再消耗10,000 Token)
- 你的大脑(上下文)被货物信息占满了!
新方式:
- 你只需要写一张派送单(500 Token的代码)
- 司机按派送单直接从A运到B(数据在沙箱里流动)
- 你的大脑只记住派送单,不需要记住货物详情!
代码示例对比:
// 传统方式:数据必须经过AI上下文// 步骤1:AI调用工具获取数据result1 = callTool("googleDrive.getDocument", { id: "abc123" })// ⚠️ result1的10,000 Token内容进入AI上下文// 步骤2:AI看到数据,分析处理// (AI需要在上下文中处理这10,000 Token)// 步骤3:AI调用工具上传callTool("salesforce.updateRecord", { data: result1 })// ⚠️ 又把10,000 Token传一遍// AI上下文负担:10,000 × 2 = 20,000 Token// ===== 新方式:数据不进AI上下文 =====// AI只写一段代码(500 Token):import { go…