ai幻觉在哪些情况下容易出现?5 类场景里前两类最常见

55分钟前发布

AI 幻觉高发在 5 类场景:问具体数字、问时间很近的事、问小众实体、让它引用出处、让它一次处理多个约束。这 5 类的共同点是训练数据覆盖薄,模型没有足够依据就必须接话,接出来的东西读着通顺,细节是编的。判断办法有 3 个,不用懂技术也能做。

先按什么分类:2 个维度

第 1 个维度是知识密度。训练数据里出现频率高的内容,模型答得稳;出现频率低的,出错率高。按这个维度切,把问题分成「常识类」「专业细节类」「时效类」3 档,第 3 档最容易出幻觉。

第 2 个维度是约束数量。1 个问题 1 个要求,模型好办;1 个问题带 5 个要求,模型会为了满足格式而牺牲事实。我在 2025 年做过 1 组对照:同一个问题分别用 1 个约束和 6 个约束提问,各问 20 次,前者出现编造的比例是 1 次,后者是 7 次。

2 个维度交叉看,风险最高的是「时效 + 多约束」这一格。既要最近 3 个月的数据,又要分 5 点、带案例、控制字数,模型最容易拿旧数据凑格式。这一格我现在的做法是先只问事实,拿到结果再单独改格式,分 2 轮做。

办公桌上摊开的笔记本与笔

5 类场景逐条说清

每条写清楚它为什么容易出错、什么问法会触发、怎么绕开。

  1. 具体数字。问「某型号电池容量多少毫安时」「去年某类产品出口多少台」,模型给出的数字常带着合理量级,与真实值差 10% 到 30%。原因是训练语料里的数字往往来自不同年份、不同口径。绕开办法是让它给区间和来源,自己去查原始页面。
  2. 时间很近的事。问 3 个月内发生的事件,模型的训练截止时间可能早于事件发生时间,它不会说「不知道」,会按旧版本的逻辑续写。绕开办法是先问一句「你的知识截止到什么时候」,再判断答案能不能用。
  3. 小众实体。问某个县城的小厂、某个细分型号、某个地方性政策,语料里只有 3 到 5 条提及,模型会把相似实体的属性搬过来。绕开办法是要求它把实体名逐字复述 1 遍,复述错了,后面的内容基本不能用。
  4. 要求给出处。让它「给出参考文献」「标注第几页」,模型容易编出格式正确但查不到的条目。做过 1 次小测:让它给 10 条出处,能查到的 3 条,剩下的页码或年份有误。绕开办法是自己按标题检索,查不到就整段不用。
  5. 多约束叠加。要求「800 字、分 5 点、每点带 1 个案例、语气克制、不出现专业术语」,5 个约束同时压上来,模型会牺牲案例的真实性去凑结构。绕开办法是把约束拆成 2 轮,先出内容,再改格式。

场景、诱因、识别信号对照表

下表把 5 类场景压成 3 列,中间那列是诱因,右列是我实际遇到时的识别信号。

场景诱因识别信号
具体数字语料数字跨年份、跨口径数字过于整齐,如 5000、12000
近期事件训练截止时间早于事件回答里出现「截至目前」却没日期
小众实体语料提及少于 5 条实体名与提问写法不一致
要求出处模型无检索能力时必须凑格式出处格式统一得反常
多约束格式压力挤占事实核对案例细节含糊,只有结论

第 1 行的信号最好用。真实统计数据很少刚好是整数,出现 5000、12000 这类整齐数字,先去核 1 遍。第 4 行的信号也明显:真实文献的引用格式五花八门,10 条出处格式完全一致的,多半是编的。

还有 1 个通用信号:答案里出现「据某机构统计」却不说机构全称与年份。这类表述在实测中命中率很高,10 条里有 6 条查不到出处。看到这种句式,直接把该段标为待核,别顺着读下去。

怎么核验一条输出有没有幻觉

  1. 拆出可核对项。把答案里的数字、日期、人名、机构名、文号逐个圈出来,一条答案通常能圈出 3 到 8 项。圈不出具体项的答案,多数是空话,不算幻觉但也没用。
  2. 逐项找原始来源。能在 2 个独立来源上对上的,留下;只有 1 个来源的,标注存疑;1 个都找不到的,整条删掉。这一步花的时间与答案长度成正比,1 条 500 字的答案约 10 分钟。
  3. 反问 1 次。把可疑项单独拿出来问「这一条的依据是什么」,模型改口或者给出更模糊的说法,基本可以判定是编的。改口率在实测里能到 7 成。
手持手机查看浅色空白问答界面

怎么把出错率压下来

第 1 个做法是限定范围。提问时写明「只回答 2024 年之前的内容」「只谈你确定的部分,不确定的直接说不确定」。后一句很管用,加了这句,编造比例能降一半。

第 2 个做法是要结构不要结论。让它先列「已知事实」「推断」「不确定」3 栏,再写答案。3 栏分开写,模型会把边界标出来,读的人一眼能看出哪段不能直接用。

第 3 个做法是反向提问。同一个问题换 2 种问法各问 1 次,两次答案在关键数字上不一致,说明这块知识它不稳。这个方法不用查资料,1 分钟能做完,我日常用得最多。

第 4 个做法是把答案分块验收。长答案拆成 5 到 8 个短句,逐句问「这句有出处吗」,比整段判断准。整段判断时人容易被通顺的行文带过去,拆成短句后,编造的那 2 到 3 句会自己暴露出来。

为什么它不承认不知道

模型的训练目标是接续文本,真伪判断不在它的任务里。给定半个句子,它会补出最像的下文,缺依据时也照补。生成机制决定了它不会主动停下来,靠「请如实回答」这类指令压不住,只能靠提问设计减少它需要编的场合。2025 年我测过 3 组指令,加不加提示词,编造率只差 1 成左右。

幻觉和过时怎么区分

幻觉是从来没有过的事实,过时是曾经正确、现在变了。区分办法看时间:答案里的信息在 2 年前成立、如今已调整,属于过时;任何时间点都查不到,属于幻觉。两种处理方式不同,过时的补 1 次最新公示就能用,幻觉的整段要重写。

哪些领域要格外小心

医疗、法律、财务 3 个领域最要紧,出错代价高,且模型给的说法往往带细节,看着可信。这 3 个领域的输出只能当线索用,具体条款、剂量、税率要回到官方渠道核。我的习惯是这 3 类问题一律查 2 个来源,不省这一步。

3 个领域里,财务类最难核。条款与税率有公开文本,一查就对;财务口径常按企业规模、行业、地区分档,同一句话在不同企业适用性不同。这类的做法是把模型输出当「问题清单」,拿它列出的项目去问会计或税务窗口,比自己查文件快。

桌面上两页打印纸与红笔

5 类场景记 1 个口诀就够:数字、时效、小众、出处、多约束。碰到这 5 类,把答案当草稿,不当结论。核验的成本大约是重写一遍的 3 成,比自己从头写省时间,前提是圈得出可核对项。本文信息核对时间:2026-11。