ai幻觉在哪些情况下容易出现?这6类提问容易踩雷

2小时前发布

AI 幻觉容易出现在 6 类提问上:问具体数字、问小众实体、问近期事件、要求精确引用、让它一次做多步计算、追问它上一轮编过的内容。这 6 类的共同点是你问的东西在训练数据里稀薄,模型没有说「不知道」,而是按语言习惯补了一个像样的答案。

下面把 6 类情形逐个说清,每类给 1 个能自己复现的试法。末尾给 3 个核验动作与 4 个规避办法。

按成因分 3 组

  1. 知识缺口型。模型对这个实体知道得少,比如某县 2024 年的常住人口、某个型号的螺丝规格。缺得越多,编得越顺。
  2. 任务超载型。1 次要求做 5 步以上推理、多表交叉汇总、长文里保持 20 个数字一致,中途丢步骤就靠编补齐。
  3. 语用压力型。你要求「必须给出处」「必须有一个确定答案」,模型为了满足格式,会把编出来的出处写得像真的。

3 组的处理办法不一样。第 1 组靠换问法,第 2 组靠拆任务,第 3 组靠允许它说不知道。分不清属于哪组,改来改去都白改。

桌面上的笔记本与钢笔,纸面留白

6 类提问容易踩雷

问具体数字与日期

表现:给出一个精确到小数点的数值,语气确定。试法:问 1 个你已知答案的数字,比如自己公司的社保缴费人数,看它编不编。我试过问 3 个不同模型同一个县的人口数,2 个给出的数字互相差 8 万。

问小众实体

表现:把查不到的人、书、论文、产品说成真的,还配上年份与机构。试法:编 1 个查不到的书名去问它讲了什么,能答出目录的就是幻觉。这类在文献综述里出现频率高,因为模型见过大量「某某(2019)指出」的句式,照着句式续写就能凑出一整段。

问近期发生的事

表现:用旧信息回答新问题,或把 2 件事的时间线接到一起。试法:问 1 个上个月刚公布的名单,看它给的是哪一年的版本。涉及政策、价格、人事变动时,这条要当成默认风险。我在 8 月问过 1 个当年 7 月刚调整的补贴标准,3 个模型里 2 个给的是上一年度的档位。

要求精确引用

表现:给出页码、段落号、链接,点进去 404 或内容对不上。试法:让它给 3 条出处,逐条打开核。我核过 1 次 20 条引用的清单,能打开的 11 条,内容对得上的 6 条。

一次多步计算

表现:前 3 步对,第 4 步开始数字漂移,最后汇总的数对不上明细。试法:给 1 张 10 行的表让它算加权平均,自己用计算器核 1 遍。步骤超过 4 步就该拆开问。数字漂移还有个规律:小数位越多越容易错,让它算到小数点后 2 位的,回来先核最后 1 位。

追问编过的内容

表现:第一轮编了 1 个细节,第二轮顺着这个细节继续往下编,越编越具体。试法:第一轮问某个查不到的规定,第二轮追问「第几条」,它会给条号。这类错误最难发现,因为整段逻辑自洽。处理办法是回到第一轮,从源头核 1 遍,只改后面几轮会越改越偏。

键盘旁摊开的资料与便签

情形与表现对照表

情形典型表现怎么试出来处理方向
具体数字精确到小数点,语气肯定问 1 个你已知的数要求给来源,或换成区间
小众实体书、论文、人物都像真的编 1 个查不到的名字先让它列已知信息,再问
近期事件用旧版本答新问题问上月刚公布的内容自己贴原文,只让它归纳
精确引用页码与链接对不上逐条打开核 3 条要原文摘句,不要页码
多步计算中间步骤开始漂移给 10 行表算加权平均拆成 4 步以内逐段问
追问细节越问越具体,逻辑自洽追问编造规定的条号回到第一轮,从头核

表里第 6 行的坑埋得深。前 5 类错误当场能看出来,第 6 类要往回翻 3 到 4 轮才定位到源头。我的习惯是每轮把关键结论抄到 1 个文本文件里,出现矛盾时按文件往回对。

怎么核验

  1. 拿 1 个已知答案的问题打底。每次换模型或换版本,先问 3 个自己熟的问题,答错 1 个就对整轮输出打折。
  2. 把 1 个关键数字拆成 2 处问。同一个数在第 1 段与第 5 段各出现 1 次,两处不一致说明在编。
  3. 抽 3 条引用去核。有出处的抽 3 条打开看,1 条对不上就整篇重核,别只改那 1 条。

第 2 条我用了半年。写行业稿时让模型在第 1 节与第 6 节各引 1 次同一个统计数,10 次里有 3 次对不上,对不上的那几次,其余数字也多有偏差。

怎么规避

把「必须给答案」改成「信息不足就说不足」。这 1 句加在提示词末尾,能让模型在不知道时停下来,而不是硬编。我在 3 个模型上试过,加这句后拒答率上去,错误率下来。

把 1 次长任务拆成 3 段。先让它列大纲与已知信息,再逐段写,最后单独做 1 轮数字核对。拆开后每段的上下文短,漂移少。

给可核的原文。政策、标准、产品参数这类内容,把官方原文粘进去,要求只做归纳不做补充。粘 2000 字原文,比让它自己回忆准得多。

留 1 个反查环节。定稿前把全文的数字、人名、机构名单独列 1 张清单,逐项标「已核 / 待核」。这张清单比通读 1 遍省时间,也容易发现前后不一致。

给 1 个可直接用的句式:「回答前先列出你确定知道的事实,不确定的部分标注为待核,不要补全。」这句话在 3 个模型上都有效,输出的待核项从 0 条变成 3 到 6 条,剩下的判断交回给人做。代价是答案变短,写稿时要多问 1 轮。

还有 1 个办法是换提问顺序。先问「关于这件事你知道哪些」,再问「细节是什么」。第一问逼它交代知识边界,第二问的编造空间会小一些。直接问细节,等于让它从 0 开始补。

4 个常见坑

坑一,把流畅当成准确。幻觉的文本往往比真答案更顺,因为它按最常见的语言习惯生成,没有卡顿。

坑二,只在开头核。多数人核前 2 段就下结论,编造集中在第 4 段之后,因为那里开始需要细节支撑。

坑三,用 AI 核 AI。让另一个模型判断前一个模型说得对不对,2 个都编的时候会互相确认,错误被加固。

坑四,忽略版本差异。同一个问题在 8 月与 11 月的模型上答案不同,用旧经验判断新版本,容易放过新出现的错。

按场景看代价,松紧该不一样。医疗、法律、财税这 3 类,1 个编造的条文号就能误导决策,必须逐条核到原文;营销文案、头脑风暴这类,编 1 句改 1 句就行,核太细反而拖慢进度。同一个模型换个用途,验收标准跟着变。

核对本身也要算时间账。1 篇 2500 字的稿子,通读核 1 遍约 40 分钟,用清单法核约 15 分钟。差别在有没有把待核项提前圈出来。我现在是边写边标,写完只核标出来的部分,剩下的快速扫读。

幻觉是生成方式的副产品,属常态。每篇稿子留 10 分钟做核对,比事后被客户指出来省事。本文信息核对时间:2026-11

屏幕前的手部动作,画面虚化