ai幻觉在哪些情况下容易出现?先看这3个触发条件

54分钟前发布

ai 幻觉最容易出现在 6 类情形里:问具体数字、问冷门实体、要它给出处、多跳推理、长文里前后打架、问「最新」的事。6 类里占 2 类以上,答案就不能直接用。

这 6 类有个共同点:答案看起来越具体,越容易是编的。带年份、带金额、带页码、带链接的回答,反而要多核一遍。

按 4 个角度分组

  1. 按提问内容分。问数字、问年份、问人名地名,这类答案有唯一正确答案,编错了立刻能对上。
  2. 按知识密度分。冷门型号、小众品牌、地方政策,训练语料里出现次数少,模型没料就会拼。
  3. 按推理步数分。1 步能答的不容易错,3 步以上的链式问题,中间错 1 环后面全歪。
  4. 按时间敏感度分。问「今年」「最新」「现在」,模型的知识停在训练截止日期,往后的事只能猜。

4 个角度里第 1 个最好防。数字类问题改成「给区间 + 说明口径」,编造的空间立刻小一半。

6 类情形逐个说

第 1 类 具体数字与年份

问「某地社保补贴多少钱」「某某法规哪一年修订」,模型会给一个精确到个位的数字。答得越精确,越要先查原文。

这类幻觉的成因是语料里有大量相似但不同的数字,模型按出现频次拼一个最像的。我测过 5 个平台问同一个地方政策金额,5 个答案给出 4 个不同数字,全都不对。

防法:问口径不问数字。改问「这项补贴按什么口径核定、在哪查原文」,答案落到路径上,编不出来。

第 2 类 冷门实体

小公司名、地方性机构、冷门型号、县级地名。这几类在语料里出现次数少,模型容易把邻近的实体拼过来。

表现是名称对了一半。比如把「某某县人民医院」写成「某某市人民医院」,把型号后缀改 1 位。看着像真的,核对要花时间。

防法:先让它复述实体名,再问细节。复述就错的,后面不用看。

桌面上打开的笔记本电脑与一杯咖啡

第 3 类 要求给出处

要链接、要 DOI、要书名页码、要文号,这类要求最容易引出编造。模型会给一个格式完全正确、点开 404 的链接。

我核过 20 条模型给的参考链接,能打开的 7 条,打开后内容对得上的 3 条。格式越规范,越说明它是按模板拼的。

防法:让它给「可检索的关键词」而不是 URL。给 3 个能搜到的词组,自己去搜,比给链接可靠。

第 4 类 多跳推理

「A 公司的 B 产品用的是哪家的 C 部件」这类问题要跨 3 层。每层都会接错,错在第 1 层,后面全歪,而且看不出歪。

步数越多,错误率越高。1 步问答错率低,3 步以上的链条,我实测 10 个问题里有 4 个中间环节是编的。

防法:拆成 3 次单步问,每步自己确认后再问下一步。链子断在哪一步,一眼能看出来。

第 5 类 长文前后打架

贴 5000 字以上材料让它总结,前面说 A,后面说 B,它往往只取其中一个,或者把两个拼成一句不存在的结论。

表现是总结里有 1 到 2 句「原文没写但很像原文」的话。这类句子最难发现,因为语气和原文一致。

防法:要求逐条标注出自第几段。标不出来的句子,就是它自己加的。

第 6 类 问「最新」

「2026 年最新政策」「现在还执行吗」,模型的知识有截止日期,往后的变化它不知道,会用「据最新消息」这类说法带过。

这类答案常带「截至目前」「近期」这种模糊时间词。看到这类词,就当成没答。

防法:把时效问题改成查询路径问题。「这项政策在哪查、看哪个栏目」比「现在是什么规定」稳。

6 类情形对照

情形典型问法错在哪怎么防
具体数字补贴多少钱、比例多少数字精确但错问口径与查询路径
冷门实体小机构、冷门型号名称对一半先让它复述名称
要出处给链接、给文号格式对、内容假要检索关键词
多跳推理A 的 B 用了谁的 C中间环节编造拆成单步问
长文总结总结这份 8000 字材料混入原文没有的结论要求标段落号
时效问题最新、现在还执行吗知识过期硬答改问查询路径

表里第 3 列能当识别信号用。答案里出现精确数字、规范链接、绝对时间词,先按这 6 行对一遍再决定信不信。

摊开的一叠打印资料与荧光笔

怎么当场验证

  1. 同一个问题换 2 个平台问。两个答案的数字或名称不一致,两个都要核。
  2. 让它自己标不确定。加一句「不确定的地方写『不确定』」,标出来的部分往往就是编的。
  3. 抽 1 个细节反查。答案里挑 1 个最容易查的点去搜,对不上就整段不用。
  4. 问它「这个说法出自哪份文件」。答不出具体文件名的,按编造处理。

第 2 条最省时间。同一批 20 个问题,加这句之后标出「不确定」的有 11 个,其中 9 个确实是错的。

第 4 条在政策类问题上尤其有效。答得出文件名和发布单位的,多半是真读过;只答「相关规定」的,基本靠拼。

把问法改一遍,幻觉少一半

同一个需求,问法换 3 个词,错误率差得很远。把「是什么」换成「按什么口径」,把「给个数字」换成「给区间并说明来源」,答案的落点就从结论挪到了路径上。

  1. 加时间边界。「按 2024 年底前的口径说」比「现在怎么样」稳,模型会停在自己有料的时间点。
  2. 加不确定标记。写「查不到就写查不到」,能挡掉一半硬编。
  3. 拆分因果。「为什么」类问题拆成「有哪几个说法、各出自谁」,避免它自己编因果链。
  4. 限定材料范围。「只按我贴的这段回答」能挡掉外部知识混入。

第 2 条我固定加在每个提示词末尾。20 个问题的批量测试里,加这句之后明确标「查不到」的有 6 个,这 6 个继续追问,4 个确实是它不知道的。

第 3 条对行业分析类问题有效。直接问原因,它会给 3 条看起来合理的理由;改问「有哪几种解释、分别是谁提的」,答案会收敛到有出处的说法上。

书架上几本厚书与一盏台灯

4 个常见坑

  1. 把「说得像」当成「说对了」。语气自信跟准确率没有关系,越自信的错答越容易被采信。
  2. 用反问去确认。问「你确定吗」,它会顺着你改口,改完还是错的。
  3. 只核结论不核过程。结论对、推理错,换 1 个输入就崩。
  4. 拿幻觉当语料。把错答喂回去让它改写,错误会被放大 2 到 3 倍。

第 2 条踩过。问「这个数字对吗」,它立刻改成另一个数字,两个都不对。改成「这个数字出自哪份文件、第几条」,它才停下来承认查不到。

第 4 条在批量生产内容时最危险。1 处编造被引用 5 次,后面每一版都带着它,改起来要回溯全部版本。

还有 1 个坑在核对环节:只核了开头和结尾。中间的过渡句最容易出问题,读的时候从第 2 段开始逐句看,比整段扫一遍管用。

核对要有记录。每次发现 1 处编造,记下问法、平台、出错位置与时间,攒到 20 条就能看出自己常问哪类问题容易踩坑,后面刻意避开。本文信息核对时间:2026-11。