我现在越来越清楚地意识到一件事:Agent 真正跑起来之后,最稀缺的东西,已经不是模型能力了。而是——系统是否还能理解、接管并继承它正在“学会”的东西。
在很多项目里,智能体每天处理成百上千次真实业务对话,识别概念、判断条件、选择路径、规避风险。它在“理解业务”,但企业本身,却并没有因此变得更懂自己的业务。这不是技术瓶颈,而是系统设计的问题。
一、Agent跑得越久,系统反而越“失忆”
这是一个工程里非常普遍的现象。一开始,Agent 上线时:
- Prompt 是新的
- 规则是新的
- 业务逻辑大家还记得
系统还能解释每一次行为。但三个月之后,你会慢慢发现:
- Agent 的判断越来越“像个人”
- 行为路径越来越多
- 对话效果看起来不错
可一旦出问题:
- 你说不清它为什么这么判断
- 你也不知道这个判断是不是稳定的
- 更不知道这是不是已经变成系统依赖的一部分
于是系统进入一种很危险的状态:Agent 在积累经验,但系统在不断遗忘。遗忘规则从哪里来,遗忘哪些判断是高频的,遗忘哪些逻辑已经在事实中被反复验证。
二、我们其实在“白白消耗”大量业务认知
站在工程角度看,Agent 在对话中做的事情并不神秘。它无非是在反复完成几类动作:
- 识别业务实体(客户、订单、状态、资源、权限)
- 建立实体关系(依赖、约束、因果、优先级)
- 应用隐含规则(如果 A 且 B,则 C)
- 在不完整信息下做权衡决策
这些,本质上都是业务知识。区别只在于:以前是人脑在跑,现在是模型在跑。但现在的问题是:这些知识,只被“用掉了”,却没有被“留下来”。每一次对话,其实都在为企业付出真实成本:用户时间、业务风险、决策责任。但最后沉淀下来的,往往只有一堆不可复用的对话日志。从系统角度看,这是极其浪费的。
三、反过来看待“知识图谱”
传统的业务知识图谱建设,大多是自上而下的:
- 先访谈专家
- 再整理文档
- 再建模
- 最后接系统
这种方式不是错,但在真实业务里,它有两个天然问题:
- 永远慢于业务变化
- 很难覆盖真实边界情况
而Agent的出现,实际上改变了一件非常关键的事情:业务知识,已经在“使用侧”被大规模验证过了。不是…
— 以上为试看内容(约 40%),开通会员后阅读全文 —