导读 当 Agent 开始替人查企业、做尽调、过合规,"模型够不够聪明"早已不是瓶颈——真正致命的,是它会在数据上自信地编:把 A 公司认成 B、把"查无记录"说成"没问题"、没查到时脑补一段看起来很合理的叙事。本文不谈模型参数,谈我们在企查查智能体数据平台(面向 AI Agent 的企业数据底座,支持 MCP + CLI 双栖接入)上,如何用工具层与协议层的三层反幻觉工程——实体强锚定、强语义负向防御、上下文脱水——让大模型"不敢编、不能编、编了也露馅";以及我们怎么验证它真的有效、它的边界和成本又在哪里。
*主要内容包括以下几个部分:*1. 问题的真身:缺的不是聪明,是"不敢编"
-
一个差点被批了贷的失信企业
-
三层反幻觉工程
-
容易被忽略的第四层 · 工具描述工程:让模型"选对工具、不越界"
-
怎么知道它真有效:AI 测试 AI + 双源核验 + 四层穿透
-
Opus 4.8 与一次"自己揪出 bug"的实测
-
边界与成本:压得住,但压不到零
-
写在最后:Agent 的可信,不在模型参数里
分享嘉宾|杜虎 企查查科技股份有限公司 技术总监
内容校对|韩珊珊
出品社区|DataFun
01
问题的真身:缺的不是聪明,是"不敢编"
当 Agent 开始替人查企业、做尽调、过合规,一个反直觉的事实摆在面前:制约它的往往不是模型不够聪明,而是它太敢说——在没有依据的地方,它会用和正确答案一样的口吻,把错误答案讲得无比自信。(下一节那个差点批了贷的事故,就是活例。)
把"数据幻觉"摊开看,其实是四类很具体的错,也是我们在产品上每天正面硬刚的四类:
- 认错主体:名称一字之差,查错了对象;
- 凭空编造:没有的股东、持股平台、融资轮次、估值,也敢一本正经写出来;
- 解读过期:拿企业的旧名称、已下架的历史记录当现状作答;
- 空数据误判:把"没查到"当成"没有",进而推导出"该企业绝对无风险"。
这四类错有一个共同点:换个更强的模型治不好。恰恰相反,模型越流畅,编得越像真的、越难被一眼识破。
真正能摁住它们的,是模型之外那层工程。这和社区最近在聊的 Harness / Loop Engineering 是同一个道理——决定一个 Agent 靠不靠谱的,往往不在模型参数里,而在包裹模型的那层执行骨架。对一个企业数据平台来说,这层骨架就是反幻觉工程。我们把它落成三层防御,外加一层常被忽略的工具描述工程——这套工程就跑在企查查智能体数据平台(agent.qcc.com)上。
四类错里最致命的是第一类——认错主体。讲一个让我们后背发凉的真实事故(已匿名)。
一家银行的智能尽调助手接到任务:用户问"查一下这家公司有没有失信"。Agent 拿到名字,去查,返回"未发现失信记录",于是给出结论——"该主体信用状况良好,可进入下一步"。
问题是:它查的根本不是那家公司。要查的企业名字里带着"信息技术"几个字;而在一批名称高度相似的主体里,模型匹配到了另一家只差几个字、确实干净的公司。于是一家本身就有公开失信记录、本应被一眼查出的企业,在 Agent 眼里成了'可以放贷'的优质客户。
整个过程没有任何一步报错:接口正常返回、模型流畅作答、结论看起来专业得无可挑剔。这恰恰是企业级 Agent 最危险的地方——返回了数据,不等于返回了可信的数据。模型不会告诉你它查错了人,它只会把错误答案说得和正确答案一样自信。
把上面的问题落到工程上,是三层依次收口的防御。
第一层 · 实体强锚定:先锁定"你查的到底是谁"
上一节那个事故,根子在第一步就埋下了:还没确认"查的是谁",就开始查"它有没有事"。后面查得再准,也是在错误的主体上准。
我们的做法是:任何风险类调用之前,强制先做实体识别、锁定 18 位统一社会信用代码。名称只要存在微差、或命中多个高度相似主体,业务工具不会"猜一个最像的返回",而是停下来——要么返回候选清单交由上层(人或编排)确认,要么返回明确的"未唯一匹配"。一句话:宁可不给,也不给错。
这里有一个反直觉、但很关键的工程取舍:名称近似时,正确的返回不是"最佳猜测",而是一个明确的"未命中 / 请消歧"信号。很多接口习惯在模糊匹配时返回排序第一的结果——这在搜索框里是体验优化,在 Agent 链路里却是灾难:模型拿到一条"看似命中"的数据,根本不知道这是赌出来的。把"消歧"这件事显式交还给上层,而不是让模型在黑箱里替你赌一把,是实体强锚定的核心。
第二层 · 强语义负向防御:把"空数据"变成"强信号"
第二类高频幻觉来自一个字:空。
传统接口查不到时,返回一个空数组 []。这对人没问题,对大模型却是灾难:它分不清这个 [] 到底是"真的没有",还是"查询失败 / 参数不对 / 这个维度本就不该有数据"。分不清,它就倾向于脑补一个合理解释——而脑补出的"该企业无任何风险",正是上一节事故的另一种来路。
我们的做法是把空结果转成带明确语义的状态码。比如查一家公司有没有严重违法记录,真实返回是这样(实调,未做任何美化):
get_serious_violation("某科技股份有限公司"){ "企业名称": "某科技股份有限公司", "搜索结果": "经企查查底层数据库全量核查实体 某科技股份有限公司,当前未发现任何【严重违法】记录。此项核心合规风控排查安全,允许进入下一步审计。"}
模型读到的不再是一个冷冰冰的 [],而是一句有方向的话:已全量核查、当前未发现、可继续下一步。它不需要、也不会再去"猜"这个空到底意味着什么。
但有一个边界必须讲清楚,否则就从一种幻觉滑向另一种:"当前未发现"不等于"绝对没有",它等于"在这个数据源、这个时点、全量核查之后没有"。强语义的价值不是给模型一个更强的承诺,而是…