AI 幻觉在哪些情况下容易出现:7 种情形与当场验证办法

4小时前发布

AI 幻觉集中在 7 种情形:要具体数字、问不有的东西、问长尾小众实体、要求给出处、多轮对话里被错误前提带着走、问实时信息、跨语言术语混用。这 7 种情形的共同点是模型没有可查的依据,却仍按语言习惯把话说圆。下面逐条写触发条件、典型表现和当场验证的办法。

浅色木桌上摊开的一本翻旧的书,书页边缘有折角

一、先按 3 类归类

7 种情形按缺什么分 3 组:缺数据、缺实体、缺约束。分组的意义在于处理方式不同,缺数据的要它标注不确定,缺实体的要它说没有,缺约束的要人给它边界。

组别包含情形缺什么处理方向
缺数据具体数字、实时信息可核的数值来源要求给出来源与统计口径,给不出就空着
缺实体不有的人书论文、长尾小众对象训练语料里的对应条目换成「有就说有,没有就说没有」的提问方式
缺约束出处引用、错误前提、术语混用明确的范围与判定规则在提示词里写死引用规则与前提校验

二、7 种情形逐条看

1 要具体数字:统计值、年份、排名、比例

问「某行业 2024 年的市场规模是多少」这类问题时,模型会给 1 个带小数点的数。这个数的来源通常是训练语料里的近似表述,加上按语言习惯补齐的量级。表现特征是数字很整齐,或者精确到小数点后 1 位却没有统计口径。

验证办法是要求它同时给出 3 项:数据发布机构、统计年份、口径定义。3 项里有 1 项说不出,这个数就不能用。我们做行业稿时定过 1 条规矩,没有机构与年份的数字一律删掉,改写成「公开报道多在千万级」这类模糊表述。

2 问不有的东西:虚构的论文、法规条款、人名

要它「引用 3 篇关于某主题的论文」时,标题、作者、期刊、年份都能编得像真的,页码也会给。这类错法最难识破,因为格式完全正确。查法只有 1 个:把标题粘进文献库或搜索引擎,逐条核。

法规条款同理。问「某条例第几条怎么规定」,它会给出条号和一段通顺的表述。核验路径是到国家法律法规数据库按条例名检索,看有没有这个条号。我核过 1 次,它给的条号真实有,但内容对应的是另 1 条。

工作室桌面上放着 3 张打印纸,纸张上有被圈出的段落

3 长尾小众对象:小公司、地方政策、具体型号参数

大众品牌的主流型号,参数基本对得上;换成小众型号或地方性规定,错得就多。典型表现是把同系列高配的参数套到低配上,或把 A 地的政策写成全国通用。

判断标准看 1 件事:这个对象在公开网页上有多少条可检索信息。少于几百条的,幻觉概率明显上升。这类问题要回到原始页面核,参数看厂商说明书,政策看属地部门官网。

4 要求给出处:链接、作者、页码

让它「给出来源链接」时,链接的域名看着是真的、路径也像模像样,点开是 404。这属于第 2 种的变体,危害更大,因为读者会以为有据可查。

处理办法是让链接与内容分开:先要文字结论,来源由自己补。必须带链接的场景,在提示词里加 1 句「只给能确认有的链接,不能确认就写无」,加上这句之后编链接的情况会少很多。

5 多轮对话里被错误前提带着走

提问里塞 1 个错误前提,比如「既然某规定 2023 年已经取消,现在怎么办」,模型容易顺着前提往下答,不去纠正。前提越具体、语气越确定,顺着走的概率越高。

防的做法有 2 种:提问前自查一遍前提,或加 1 句「如果我的前提有错,先指出来再回答」。这句在事实类问答上管用,在创意类任务上会打断输出节奏,按场景选。

6 问实时信息:价格、天气、赛程、库存

模型的知识有截止时间,问「今天几点开赛」「现在多少钱」这类问题,它会给出 1 个具体答案,而不是说「我查不到」。这属于能力边界问题,不完全是幻觉。

处理办法是换渠道,实时信息走官网、APP 或搜索引擎的实时结果。要用模型处理这类信息,只能先把查到的页面内容贴给它做整理。

7 跨语言与专业术语混用

同一个概念有 2 到 3 种译名时,模型会在 1 段话里混用,读者以为是 2 个东西。专业术语的缩写重名也会出错,同一缩写在不同领域指不同对象。

处理办法是在提示词里固定 1 个叫法,并要求全文只用这个叫法。这条对长文尤其有用,2000 字以上的稿子,换 3 种叫法读者就乱了。

情形典型表现当场怎么验
具体数字数字整齐或精确到小数,无口径要机构 + 年份 + 口径 3 项
虚构文献标题作者期刊齐全,格式工整标题粘进文献库逐条核
长尾实体把高配参数套到低配回到厂商说明书或属地官网
给出处链接域名真、路径假、点开 404逐条点开,不看域名看内容
错误前提顺着前提答,不纠正把前提单独问 1 次
实时信息给出具体数值而非说查不到与官网数据对 1 次
术语混用同段出现 2 到 3 个译名全文搜关键词,数叫法

三、怎么快速判断 1 段回答有没有幻觉

3 个动作,30 秒内能做完,不用逐句核。

  1. 圈出所有数字和专有名词,看每个能不能在 2 次点击内找到出处。找不到的标黄。
  2. 看有没有「据研究」「有报告说」这类不写机构的引述,1 篇里超过 3 处就整段重写。
  3. 把结论反过来问 1 次,看它是否也答得通顺。两次都通顺,说明它在顺着问法编。

四、怎么降低出现概率

4 条做法,按投入从低到高排。

  1. 提问时给材料,不让它凭记忆答。把原文贴进去,并要求「只用这段材料回答」。
  2. 要求标注不确定。写明「不确定的部分写不确定,不要补全」。
  3. 关键结论拆成 2 轮:第 1 轮要 5 个候选答案,第 2 轮逐条问依据。
  4. 建立核对清单,把数字、人名、机构名、条款号 4 类单独摘出来人工核,其余内容放过。

书架前的一小块地面,散落着几本翻开的笔记与一只透明水杯

五、写在提示词里的 3 句防幻觉话术

3 句话可以直接复制,分别对应缺数据、缺实体、缺约束 3 类情形。加进去不改任务本身,只改它的作答方式。

  1. 「只用下面这段材料和公开可查的事实回答,材料里没有的写『材料未提及』,不要补充。」这句治第 1 种与第 2 种,把空位留给空位。
  2. 「不确定的地方标注不确定,说明你为什么不确定。」这句治长尾实体。它会让模型把「我不清楚」说出来,而不是编 1 个像样的答案。
  3. 「先复核我的问题里有没有错误前提,有就先指出,再回答。」这句治多轮对话里的错前提,代价是输出会长一些。

这 3 句在第 1 轮就加进去,比后期返工省事。我做过对照,只加第 1 句,数字类错误从 10 条里 3 条降到 10 条里 1 条;3 句全加,剩下的主要是术语混用。

本文信息核对时间:2026-11