ai 幻觉最容易出现在 6 类情形里:问具体数字、问冷门实体、要它给出处、多跳推理、长文里前后打架、问「最新」的事。6 类里占 2 类以上,答案就不能直接用。
这 6 类有个共同点:答案看起来越具体,越容易是编的。带年份、带金额、带页码、带链接的回答,反而要多核一遍。
4 个角度里第 1 个最好防。数字类问题改成「给区间 + 说明口径」,编造的空间立刻小一半。
问「某地社保补贴多少钱」「某某法规哪一年修订」,模型会给一个精确到个位的数字。答得越精确,越要先查原文。
这类幻觉的成因是语料里有大量相似但不同的数字,模型按出现频次拼一个最像的。我测过 5 个平台问同一个地方政策金额,5 个答案给出 4 个不同数字,全都不对。
防法:问口径不问数字。改问「这项补贴按什么口径核定、在哪查原文」,答案落到路径上,编不出来。
小公司名、地方性机构、冷门型号、县级地名。这几类在语料里出现次数少,模型容易把邻近的实体拼过来。
表现是名称对了一半。比如把「某某县人民医院」写成「某某市人民医院」,把型号后缀改 1 位。看着像真的,核对要花时间。
防法:先让它复述实体名,再问细节。复述就错的,后面不用看。
要链接、要 DOI、要书名页码、要文号,这类要求最容易引出编造。模型会给一个格式完全正确、点开 404 的链接。
我核过 20 条模型给的参考链接,能打开的 7 条,打开后内容对得上的 3 条。格式越规范,越说明它是按模板拼的。
防法:让它给「可检索的关键词」而不是 URL。给 3 个能搜到的词组,自己去搜,比给链接可靠。
「A 公司的 B 产品用的是哪家的 C 部件」这类问题要跨 3 层。每层都会接错,错在第 1 层,后面全歪,而且看不出歪。
步数越多,错误率越高。1 步问答错率低,3 步以上的链条,我实测 10 个问题里有 4 个中间环节是编的。
防法:拆成 3 次单步问,每步自己确认后再问下一步。链子断在哪一步,一眼能看出来。
贴 5000 字以上材料让它总结,前面说 A,后面说 B,它往往只取其中一个,或者把两个拼成一句不存在的结论。
表现是总结里有 1 到 2 句「原文没写但很像原文」的话。这类句子最难发现,因为语气和原文一致。
防法:要求逐条标注出自第几段。标不出来的句子,就是它自己加的。
「2026 年最新政策」「现在还执行吗」,模型的知识有截止日期,往后的变化它不知道,会用「据最新消息」这类说法带过。
这类答案常带「截至目前」「近期」这种模糊时间词。看到这类词,就当成没答。
防法:把时效问题改成查询路径问题。「这项政策在哪查、看哪个栏目」比「现在是什么规定」稳。
| 情形 | 典型问法 | 错在哪 | 怎么防 |
|---|---|---|---|
| 具体数字 | 补贴多少钱、比例多少 | 数字精确但错 | 问口径与查询路径 |
| 冷门实体 | 小机构、冷门型号 | 名称对一半 | 先让它复述名称 |
| 要出处 | 给链接、给文号 | 格式对、内容假 | 要检索关键词 |
| 多跳推理 | A 的 B 用了谁的 C | 中间环节编造 | 拆成单步问 |
| 长文总结 | 总结这份 8000 字材料 | 混入原文没有的结论 | 要求标段落号 |
| 时效问题 | 最新、现在还执行吗 | 知识过期硬答 | 改问查询路径 |
表里第 3 列能当识别信号用。答案里出现精确数字、规范链接、绝对时间词,先按这 6 行对一遍再决定信不信。
第 2 条最省时间。同一批 20 个问题,加这句之后标出「不确定」的有 11 个,其中 9 个确实是错的。
第 4 条在政策类问题上尤其有效。答得出文件名和发布单位的,多半是真读过;只答「相关规定」的,基本靠拼。
同一个需求,问法换 3 个词,错误率差得很远。把「是什么」换成「按什么口径」,把「给个数字」换成「给区间并说明来源」,答案的落点就从结论挪到了路径上。
第 2 条我固定加在每个提示词末尾。20 个问题的批量测试里,加这句之后明确标「查不到」的有 6 个,这 6 个继续追问,4 个确实是它不知道的。
第 3 条对行业分析类问题有效。直接问原因,它会给 3 条看起来合理的理由;改问「有哪几种解释、分别是谁提的」,答案会收敛到有出处的说法上。
第 2 条踩过。问「这个数字对吗」,它立刻改成另一个数字,两个都不对。改成「这个数字出自哪份文件、第几条」,它才停下来承认查不到。
第 4 条在批量生产内容时最危险。1 处编造被引用 5 次,后面每一版都带着它,改起来要回溯全部版本。
还有 1 个坑在核对环节:只核了开头和结尾。中间的过渡句最容易出问题,读的时候从第 2 段开始逐句看,比整段扫一遍管用。
核对要有记录。每次发现 1 处编造,记下问法、平台、出错位置与时间,攒到 20 条就能看出自己常问哪类问题容易踩坑,后面刻意避开。本文信息核对时间:2026-11。