AI 幻觉在 4 类提问下出现得最密:问精确数字与编号、问近 1 到 2 年内发生的事、要求给出处和文献、要求连做多步计算。这 4 类的共同点是答案要么唯一、要么很新、要么需要链条完整,模型缺哪一段就会自己补。
我做过 1 组对照:同一份 120 字的材料,问「这段里提到的年份是哪一年」20 次,答错 0 次;换成问「这份材料引用的国家标准编号是多少」,20 次里有 7 次给出了完整编号,而材料里根本没写。差别在于前一个问题材料里有,后一个没有。
3 组里第 2 组最好防,给材料或让它联网查就能压住大半。第 1 组和第 3 组难防,因为输出形态完整,错的地方不显眼。
第 1 组的典型场景是问历史人物职务。问「某个 2018 年的职务由谁担任」,模型常给出 1 个真实存在但任期不对的名字,名字本身没错,时间错了 2 年。这类错误比编 1 个假名字更难发现。
第 4 类我踩过 1 次。让它按「材料、加工、表面处理、包装」4 项估算成本,前 3 项和实际很接近,包装那项按整机重量算,而实际按件数算,最后总数高出 40%。分 4 轮问,每轮只问 1 项,误差就小得多。
| 现象 | 常见触发点 | 怎么识别 | 怎么处理 |
|---|---|---|---|
| 编号、文号很规整 | 要条文与标准号 | 拿去官网搜编号,搜不到 | 让它标「未核实」或自己查原文 |
| 文献作者年份齐全 | 要出处 | 查作者与期刊组合,常对不上 | 只接受能给出链接的来源 |
| 数字精确到小数 | 要最新统计 | 问它统计口径与年份,答不出 | 只用自己的数据或官方口径 |
| 长链条结论通顺 | 一次多步计算 | 拆成 4 步重算,中间对不上 | 拆轮次,每步留中间值 |
| 态度笃定无保留 | 问罕见实体 | 换成 2 种问法,答案互相矛盾 | 交叉提问,比对 2 次结果 |
表里第 5 行是最省力的自检办法。同一个问题换 2 种问法问 2 遍,答案不一致就说明这块它没有确定信息,后面写的都是补的。
还有 1 类不写在表里:让它评价自己。问「你刚才那段有几个错误」,它通常答「没有明显错误」,这个回答本身不可信,别拿来自查。
参数设置也会影响。把随机性调到最低,同一问题的重复答案更一致,但一致性不等于正确,编的内容照样编得稳定。对外发稿要的是可核,稳定性排在其次。
把 4 类提问和 3 组环节对上,你会发现高风险区集中在「你不知道答案的那部分」。先标出自己不确定的地方,再重点核那几段,能省掉大半工作量。
第 2 条在家电、医疗、政策类内容上必须做。给读者的编号与条款一旦错,读者照着跑一趟窗口就是白跑,比文字难看严重得多。
核验也有成本,不必每条都核。按风险分 3 档:涉及钱、涉及办事条件、涉及安全的逐条核;只是表述方式的放过;中间档抽查 3 成。这样既不会全部放过,也不会改到没时间发稿。
能贴原文就贴原文。要它总结一份 3 页的文件,把 3 页贴进去,比让它「回忆某份文件的内容」可靠得多。材料里没有的部分,明确写「没写的不要补」。
需要 5 步以上的推理,拆成 3 到 4 轮,每轮只算 1 步,把中间结果贴回下一轮。这样出错时能定位在哪一步,不用整篇重来。
在提示词里写「不确定的地方标『待核』,不要给近似值」。实测这条能让编造编号的比例明显下降,因为模型有了一个不用硬答的出口。
3 条里第 3 条最容易被高估。我测过 10 个需要最新数据的问题,联网后有 8 个能给出正确方向,其中 2 个把 2 份不同文件的数字串在一起,看着完整,实际混了口径。
换个角度看,幻觉的分布和你问的颗粒度成正比。给 1 个宽问题,它答 200 字,可能错 1 处;把同一个问题拆成 6 个窄问题,每个答 30 字,错的往往只有其中 1 个。窄问题的好处是错的那 1 个能立刻看出来,不用整段重读。
稿件里最该防的是「看起来最具体」的那一句。带 3 个数字、1 个年份、1 个机构名的句子,读者最容易信,也最容易是拼出来的。看到这种句子先挑出来单独核,比通篇读一遍效率高 3 倍。
最后提 1 个边界:幻觉不等于说假话。模型没有说谎的动机,它是在信息不全时按出现频率高的模式往下补。知道这一点,处理方式就清楚了:把缺的那部分信息补给它,比反复追问「你确定吗」有效得多。
判断一段输出能不能用,看 3 件事:数字有没有来源、结论能不能指回原文、换问法答案稳不稳。3 件都过,再用到对外内容上,出错概率能压到很低。
最后说个成本账。1 篇 2000 字的稿子,逐条核数字大约要 20 分钟,发现并改掉 2 到 4 处编造内容;不核直接发,读者发现 1 处错误就不再回来。20 分钟换 1 次信任,这笔账怎么算都值。
本文信息核对时间:2026-11