搜索
信网手机版移动继续看新闻

企查查破局AI幻觉:搭建智能体数据平台的三层反幻觉工程

2026 06/24
· 来源 ·
信网
· 责编 ·
孙宝震
阅读量
扫描到手机
用手机或平板电脑的二维码应用拍下左侧二维码,可以在手机继续阅读。

信网6月24日讯 当AI Agent 开始替人查企业、做尽调、过合规,“模型够不够聪明”早已不是瓶颈——真正致命的,是它会在数据上自信地编:把 A 公司认成 B、把“查无记录”说成“没问题”、没查到时脑补一段看起来很合理的叙事。近日,企查查技术总监杜虎分享了企查查智能体数据平台(agent.qcc.com)的三层反幻觉工程,以及如何应用它让大模型“不敢编、不能编、编了也露馅”。

杜虎表示,当AI Agent 开始替人查企业、做尽调、过合规,一个反直觉的事实摆在面前:制约它的往往不是模型不够聪明,而是它太敢说——在没有依据的地方,它会用和正确答案一样的口吻,把错误答案讲得无比自信。模型越流畅,编得越像真的、越难被一眼识破。

真正能摁住它们的,是模型之外那层工程。“我们把反幻觉工程落成三层防御,外加一层常被忽略的工具描述工程——这套工程就跑在企查查智能体数据平台上。”

杜虎分享了一个真实的案例:一家银行的智能尽调助手接到任务,用户问“查一下这家公司有没有失信”。Agent 拿到名字,去查,返回“未发现失信记录”,于是给出结论——“该主体信用状况良好,可进入下一步”。

问题是它查的根本不是那家公司。要查的企业名字里带着“信息技术”几个字,而在一批名称高度相似的主体里,模型匹配到了另一家只差几个字、确实干净的公司。于是一家本身就有公开失信记录、本应被一眼查出的企业,在 Agent 眼里成了“可以放贷”的优质客户。

“整个过程没有任何一步报错:接口正常返回、模型流畅作答、结论看起来专业得无可挑剔。这恰恰是企业级 Agent 最危险的地方——返回了数据,不等于返回了可信的数据。模型不会告诉你它查错了人,它只会把错误答案说得和正确答案一样自信。”

针对上述问题,杜虎介绍了企查查的“三层反幻觉工程”。

第一层是实体强锚定,先锁定“你查的到底是谁”。企查查的做法是,任何风险类调用之前,强制先做实体识别、锁定 18 位统一社会信用代码。名称只要存在微差、或命中多个高度相似主体,业务工具不会“猜一个最像的返回”,而是停下来——要么返回候选清单交由上层确认,要么返回明确的“未唯一匹配”。一句话:宁可不给,也不给错。

第二层是强语义负向防御,把“空数据”变成“强信号”。传统接口查不到时,返回一个空数组 。这对人没问题,对大模型却是灾难。企查查的做法是把空结果转成带明确语义的状态码。模型读到的不再是一个冷冰冰的空结果,而是一句有方向的话:已全量核查、当前未发现、可继续下一步。它不需要,也不会再去“猜”这个空到底意味着什么。

第三层是上下文脱水,少喂、喂准,省 token 也降幻觉。传统接口习惯把一整页原始数据一股脑塞给模型。数据量一大,两件坏事同时发生:token 烧得快、上下文被占满;关键信息淹没在噪音里,模型更容易抓错重点,甚至在超长截断之后“脑补”被截掉的那部分。企查查的做法叫上下文脱水:不返回原始JSON 堆,返回“摘要先导 + 按需明细”。

杜虎说,即使有如上“三层反幻觉工程”,也只解决了单次调用可信的问题。当平台的工具一多,幻觉就冒出来了。要想解决这个问题,靠的是工具描述工程。用户说“查 X”且没有历史限定时,默认只调当前那个;只有出现“曾经 / 历史 / 已移出”这类词,才去调历史那个。另外, 工具描述只陈述客观事实,绝不替客户写业务决策。

企查查用三件事来确认AI Agent真的有效,而不是“看起来有效”:AI 测试 AI,主动拿真实的 AI 客户端,按典型问句成批跑;双源核验,任何判定要有两个独立来源印证;四层穿透,判断一次调用算不算“成功”,要穿透四层,错一层就是事故。

“如果说过去两年大家比的是‘谁的模型更强、谁的提示词更妙’,那么当AI Agent 真的开始替人做有后果的决策时,比的会是另一件事:谁把模型和真实世界之间的那层工程做得更扎实。”杜虎说,对一个企业数据平台来说,这层工程就是反幻觉,强语义负向防御让它“不把空白当没有”,上下文脱水让它“不被噪音带偏”,工具描述工程让它“选对工具、不越界”;四层之上,再压上 AI 测试 AI、双源核验、四层穿透,以及最终那道人工刹车。(信网记者)

[来源:信网 编辑:孙宝震]
信网版权稿件,转载请获取授权(邮箱:news@qdxin.cn)。
大家爱看

信网手机版

信网小程序

青岛网上辟谣平台

AI调解员

鲁ICP备18050064号-1 互联网新闻信息服务许可证:37120180021 增值电信:鲁B2-20180061 鲁公网安备:37020202000005号
手机版 | 媒体资源 | 信网传播力 | 关于信网 | 广告服务 | 联系我们 | 版权声明| 违法和不良信息举报