AI 幻觉在哪些情况下容易出现?4 类场景最容易踩

AI 幻觉集中出现在 5 类情况：问具体数字与编号、问冷门长尾话题、要求给出来源、要求多步计算、问刚发生变化的信息。这 5 类的共同点是模型没有可依据的原文，又必须给出一个完整回答，缺口就被看起来合理的内容填上了。

2025 年 6 月我整理过一批行业资料，让模型列「某类设备的国标编号」。它给了 6 个编号，格式都对，其中 3 个在标准信息平台上查不到。换成把标准目录 PDF 贴进去再让它挑，6 个全部对得上。同一批问题，差别只在有没有给原文。

一、按「有没有依据」分类

幻觉不是随机冒出来的。按模型手里有没有可依据的材料，5 类情况的出错概率差得很远。

表格前 3 行的共同点是「格式容易学、内容没有源」。模型见过大量「GB/T 加数字」的写法，能拼出格式正确的编号，编号本身却对应不到真实文件。第 4 行与第 5 行的错法不一样，前者算错，后者过期。

分类的意义在于决定要不要核。前 3 行的内容，只要出现在正式文稿里，就逐条核 1 次；后面 2 行核 1 个代表值即可。把力气花在前 3 行，能挡掉大部分会出问题的地方，也省掉逐句怀疑的时间。

二、5 类情况逐个说

问具体数字与编号

标准号、批号、文号、身份证式的编码，这 4 类最容易编。原因是它们有强格式，模型能按格式生成，但每个编号对应哪份文件，语料里不一定有。判断办法很简单：拿到编号去官方平台查 1 次，查不到就是编的。

问冷门长尾话题

大行业的主流问题，语料多，回答稳；具体到某个县级市的规定、某台小众设备的参数，语料稀薄，模型会拿相邻话题的内容顶上。这类回答读起来通顺，细节却对不上本地情况。我的做法是先问「这个说法出自哪份文件」，答不出具体名称的，整段不用。

这类问题有个变体：它会把大范围的规定套到小范围上。比如把省级文件的口径当成某个市的口径，句子本身没错，适用范围错位。判断办法是看句子里有没有出现具体到县市或具体型号的名词，没有就是在泛化。

遇到泛化的回答，补 1 句问「这条规定适用到哪一级」。能明确说出层级的，可信度高一档；答不上来就退回自己查原文，别在对话里继续追问。

要求给来源

让它列参考文献，是最容易触发编造的指令之一。它会给作者名、期刊名、年份，甚至页码，组合起来像真的，核验成本却很高，所以更稳的做法是反过来：自己提供 3 篇材料，让它只在这 3 篇里做摘要，并标出每句出自第几段。

多步计算

一步换算很少错，连算 3 步以上容易在中间环节丢单位。我试过让它算「1 平方米板材按 7.93 密度、1.2 毫米厚，1 吨能出多少张 1.2 米乘 2.4 米的板」，它给的结果与我自己算的差 1 成多，原因是把毫米与米混在一步里。让它把每一步单独列出来，错在哪一步就能看见，也能看出是单位没换还是公式套错。

刚变化的信息

语料有截止时间。政策、价格、补贴标准、平台功能这类一年内会变的内容，模型给的可能是上一版。判断办法是看它有没有给出版本或日期，没给就按旧版对待，自己去官方渠道核 1 次。

三、怎么当场判断一段话是不是编的

4 个动作，30 秒内能做完。

1. 找具体名词：有没有出现可查的编号、地名、机构名。全是抽象概括的段落，出错概率低，价值也低。
2. 看前后是否一致：同一段里两次提到同一个数字，对不对得上。对不上就是拼的。
3. 要求复述依据：追问「这句出自哪份文件第几段」。答得上具体位置的可信度高，绕回泛泛而谈的要警惕。
4. 抽 1 个点去查：随机挑 1 个编号或 1 个日期，去官方平台查 1 次。5 分钟能验完 1 篇。

第 4 条我固定做。抽查 1 个点比通读 3 遍有效，编造的内容往往在细节上对不齐，抽 1 个点就能露出来。

抽查选哪 1 个点也有讲究。优先挑「格式最规整」的那个，编号、日期、文号这类被编造的概率高于普通描述。挑 1 个最容易查的，5 分钟见结果，比逐个核要省得多。

四、怎么把出错概率压下来

1. 给原文：把要依据的材料贴进去，让它只做抽取与归纳，明确写「材料里没有的不要补」。
2. 要求标注缺口：指令里加一句「不确定的写『资料未提及』」。加了这句，留白的比例会明显上升。
3. 拆问题：一次问 1 件事。把「政策、材料、流程」塞进 1 句，它会用 1 段话各说 1 点，每点都浅。
4. 二次交叉：同一问题换 1 种问法再问 1 次，两次答案在关键数字上不一致，就按官方原文核对。
5. 换封闭问法：把「介绍一下」改成「从下面 3 个选项里选 1 个，并说明依据在第几行」。

第 2 条的效果最直接。我们内部整理客户资料时固定带这句，需要人工回查的条数从每份 6 到 8 条降到 2 到 3 条。

五、常见坑

1. 把通顺当准确。语言流畅与事实正确是两件事，编造的内容往往比真话更顺。
2. 用幻觉去证幻觉。拿它给的来源再去问它「这篇讲了什么」，会得到一段自洽的假摘要。
3. 只看结论不看条件。同一个问题在「有没有原文」两种条件下答案不同，忽略了条件就分不清哪次是对的。
4. 把 1 次正确当稳定。同一问题问 3 次，3 次都对才算稳，1 次对可能只是碰上了语料充分的样本。
5. 让它在无材料时做判断题。「这个参数合不合规」在没给标准原文时问，得到的多是猜测。

这 5 个坑里，第 2 个最难自查。判断办法是看引用能不能落到可打开的文件上，落不到就当没有引用，直接删掉那段不要凑数。

还有一种情况值得单列：内容本身没错，但版本过时。1 篇 2024 年的写法放在 2026 年照抄，读起来通顺、也能查到出处，结论却已经变了。这类错比编造更难发现，处理办法是凡涉及年份的段落，都标 1 个核对日期。

圈出来的句子不必删掉，标上「待核」就行。删了会让整段断掉，标出来反而能顺着它去找原文。凡是涉及编号、金额、日期、政策版本的句子，都按「需要核对」处理，其余内容可以当草稿用。

本文信息核对时间：2026-11