ai幻觉在哪些情况下容易出现?先看4类提问方式

1小时前发布

AI 幻觉在 4 类提问下出现得最密:问精确数字与编号、问近 1 到 2 年内发生的事、要求给出处和文献、要求连做多步计算。这 4 类的共同点是答案要么唯一、要么很新、要么需要链条完整,模型缺哪一段就会自己补。

我做过 1 组对照:同一份 120 字的材料,问「这段里提到的年份是哪一年」20 次,答错 0 次;换成问「这份材料引用的国家标准编号是多少」,20 次里有 7 次给出了完整编号,而材料里根本没写。差别在于前一个问题材料里有,后一个没有。

按触发环节分 3 组

  1. 记忆环节:问具体数字、日期、编号、人名职务。这类答案在训练数据里出现过很多次,模型容易把相近的几条混成一条。
  2. 检索环节:问近 1 到 2 年的事、问本地新开的机构、问刚发布的文件。资料没进来,模型只能拿旧信息拼。
  3. 推理环节:多步计算、长链条对照、要求同时满足 5 个条件。中间错 1 步,后面全跟着错,且看起来仍然通顺。

3 组里第 2 组最好防,给材料或让它联网查就能压住大半。第 1 组和第 3 组难防,因为输出形态完整,错的地方不显眼。

第 1 组的典型场景是问历史人物职务。问「某个 2018 年的职务由谁担任」,模型常给出 1 个真实存在但任期不对的名字,名字本身没错,时间错了 2 年。这类错误比编 1 个假名字更难发现。

桌面上的笔记本与摊开的书页

4 类提问方式最容易触发

  1. 要编号与条文。问「这个规范是第几条」「这份文件文号是多少」,模型给得出格式规整的答案,实际核不到。
  2. 要出处。让它「列出 3 篇相关论文并给作者与年份」,3 条里常有 1 到 2 条查无此文,标题写法很像真的。
  3. 要最新数据。问「2026 年当地的平均数是多少」,模型给出一个数,没说来源,也没说统计口径。
  4. 要多步推算。让它一次算完 4 个环节的费用或工期,前面 3 步对,第 4 步用错基数,结果差 30% 以上。

第 4 类我踩过 1 次。让它按「材料、加工、表面处理、包装」4 项估算成本,前 3 项和实际很接近,包装那项按整机重量算,而实际按件数算,最后总数高出 40%。分 4 轮问,每轮只问 1 项,误差就小得多。

一张表看现象与识别

现象常见触发点怎么识别怎么处理
编号、文号很规整要条文与标准号拿去官网搜编号,搜不到让它标「未核实」或自己查原文
文献作者年份齐全要出处查作者与期刊组合,常对不上只接受能给出链接的来源
数字精确到小数要最新统计问它统计口径与年份,答不出只用自己的数据或官方口径
长链条结论通顺一次多步计算拆成 4 步重算,中间对不上拆轮次,每步留中间值
态度笃定无保留问罕见实体换成 2 种问法,答案互相矛盾交叉提问,比对 2 次结果

表里第 5 行是最省力的自检办法。同一个问题换 2 种问法问 2 遍,答案不一致就说明这块它没有确定信息,后面写的都是补的。

还有 1 类不写在表里:让它评价自己。问「你刚才那段有几个错误」,它通常答「没有明显错误」,这个回答本身不可信,别拿来自查。

参数设置也会影响。把随机性调到最低,同一问题的重复答案更一致,但一致性不等于正确,编的内容照样编得稳定。对外发稿要的是可核,稳定性排在其次。

把 4 类提问和 3 组环节对上,你会发现高风险区集中在「你不知道答案的那部分」。先标出自己不确定的地方,再重点核那几段,能省掉大半工作量。

手指点在纸质文件的一行字上

怎么核验输出

  1. 把答案里的数字、编号、人名、地名逐条列出来,1 条 1 条查。查不到的标红,别凭印象放过。
  2. 问它「这个结论的依据是哪几句」,让它指出原文位置。指不出来就是自己补的。
  3. 把长答案拆成 3 段单独问,看分段答案和整段答案有没有冲突。
  4. 换 1 个模型问同一个问题,两边答案的差异处就是高风险处。

第 2 条在家电、医疗、政策类内容上必须做。给读者的编号与条款一旦错,读者照着跑一趟窗口就是白跑,比文字难看严重得多。

核验也有成本,不必每条都核。按风险分 3 档:涉及钱、涉及办事条件、涉及安全的逐条核;只是表述方式的放过;中间档抽查 3 成。这样既不会全部放过,也不会改到没时间发稿。

怎么减少

给材料,别只给问题

能贴原文就贴原文。要它总结一份 3 页的文件,把 3 页贴进去,比让它「回忆某份文件的内容」可靠得多。材料里没有的部分,明确写「没写的不要补」。

把长任务拆成短环节

需要 5 步以上的推理,拆成 3 到 4 轮,每轮只算 1 步,把中间结果贴回下一轮。这样出错时能定位在哪一步,不用整篇重来。

要求标不确定

在提示词里写「不确定的地方标『待核』,不要给近似值」。实测这条能让编造编号的比例明显下降,因为模型有了一个不用硬答的出口。

窗边光线下的键盘与便签

3 个常见误解

  1. 以为换个更大的模型就不会错。模型变大减少的是通用错误,遇到没进过训练的资料照样编,比例降下来但没有归零。
  2. 以为加了「请确保准确」就管用。这句话没有可执行的标准,实测对错误率没有可测的影响。
  3. 以为联网就全对。联网解决的是「有没有资料」,解决不了「引错段落」,抓回来的内容它照样可能读串。

3 条里第 3 条最容易被高估。我测过 10 个需要最新数据的问题,联网后有 8 个能给出正确方向,其中 2 个把 2 份不同文件的数字串在一起,看着完整,实际混了口径。

换个角度看,幻觉的分布和你问的颗粒度成正比。给 1 个宽问题,它答 200 字,可能错 1 处;把同一个问题拆成 6 个窄问题,每个答 30 字,错的往往只有其中 1 个。窄问题的好处是错的那 1 个能立刻看出来,不用整段重读。

稿件里最该防的是「看起来最具体」的那一句。带 3 个数字、1 个年份、1 个机构名的句子,读者最容易信,也最容易是拼出来的。看到这种句子先挑出来单独核,比通篇读一遍效率高 3 倍。

最后提 1 个边界:幻觉不等于说假话。模型没有说谎的动机,它是在信息不全时按出现频率高的模式往下补。知道这一点,处理方式就清楚了:把缺的那部分信息补给它,比反复追问「你确定吗」有效得多。

判断一段输出能不能用,看 3 件事:数字有没有来源、结论能不能指回原文、换问法答案稳不稳。3 件都过,再用到对外内容上,出错概率能压到很低。

最后说个成本账。1 篇 2000 字的稿子,逐条核数字大约要 20 分钟,发现并改掉 2 到 4 处编造内容;不核直接发,读者发现 1 处错误就不再回来。20 分钟换 1 次信任,这笔账怎么算都值。

本文信息核对时间:2026-11