AI 幻觉高发的场景集中在 8 类:具体统计数字、小众专名、文献引用、多步计算、训练截止后的事件、指代不清的问题、带前提的引导性提问、冷门术语与缩写。这 8 类的共同点是「模型没有可依据的材料,又必须给出一个像样的答案」。判断某次回答可不可信,先看问题落不落在这 8 类里,再看它有没有给出可以查的来源。
2025 年我做过 1 次小测试,用 40 个问题问同一个模型。凡是问到具体年份的行业产量,10 个问题里有 7 个给出的数字对不上公开统计,且条条写得像有出处。问到常识类问题,40 个里只错了 1 个,错的还是 1 个 2025 年才调整的行政区划。
8 类可以并成 3 组:缺数据、缺指代、缺边界。分组的意义在于应对方式不同,缺数据的要查源,缺指代的要补条件,缺边界的要改问法。
第 3 项的识别办法很朴素:让模型把 3 篇文献的标题写出来,逐条搜。题目通顺、作者名字像外文、期刊名也对得上领域,看起来毫无破绽,但一搜就是空的。编造的方式多为「把 2 篇真论文的标题拼接」,前半段能搜到,后半段搜不到。
第 7 项值得单独说。问「为什么这款设备比那款贵 3 倍」,前提里的 3 倍如果是错的,模型通常不纠正,而是顺着给出 4 条理由。改问法很简单:先问「这两款的价格差大概在什么范围」,等它答完再问原因。2 步问法能避开大半的前提升级。
表格第 3 列是识别信号,第 4 列是 1 个能当场做的动作。看到信号就做动作,比事后怀疑有效。
| 场景 | 典型提问 | 识别信号 | 当场怎么核 |
|---|---|---|---|
| 统计数字 | 某行业年产量多少 | 给了小数位却没有出处 | 要 1 个可查的统计口径 |
| 小众专名 | 某公司成立时间 | 答得流畅但细节空 | 去企业信息公示系统查 |
| 文献引用 | 推荐 3 篇相关论文 | 标题通顺、作者陌生 | 按标题搜 1 次,看能不能查到 |
| 多步计算 | 折算成每平方米成本 | 中间步骤被省略 | 要求列出 3 步算式 |
| 时效事件 | 今年有什么新规定 | 答得像总结而非新闻 | 查发布部门官网 |
| 指代不清 | 这个流程怎么走 | 答的是另一个对象 | 补 1 句对象与地区 |
| 引导提问 | 为什么 A 比 B 贵 | 不质疑前提 | 先问前提是否成立 |
| 冷门缩写 | 某缩写是什么意思 | 只给 1 种解释 | 加 1 句所属行业再问 |
第 3 行的办法最省时间。把模型给的论文标题原样搜 1 次,能搜到再谈内容,搜不到直接不用。1 次检索 10 秒,比逐句核对省事。
第 6 行和第 7 行的区别要看回答的对象。指代不清时模型会自己补 1 个对象,答案与你的场景无关;引导性提问时模型顺着前提走,答案与事实无关。前者补 1 句条件就能修好,后者要先把前提拆掉再问,2 类问题的处理动作不同。
3 个动作,按顺序做。第 2 个动作能筛掉大部分编造。
有部分作用,但不能全信。模型对「不确定」的表达是概率性的,越流畅的回答越少标注。我的做法是明确要求:「每个数字后面标出处,没有出处的写未知」。这样跑 10 次,能从 7 次答错降到 2 到 3 次,剩下的仍要人工核。
3 类任务,风险不同,核验强度也不同。用同 1 套标准会浪费时间。
第 1 类的核验量可以估:1 篇 2000 字的稿子,数字控制在 15 个以内、专名 8 个以内,逐个查源 1 小时内能做完。超过这个密度,说明数据堆得太多,删掉一部分比逐个核更稳。
5 条按踩坑频率排,前 2 条最容易让人放松警惕。
第 2 条要展开说。2 个模型答得一致,只能说明它们见过相似的语料,不能说明结论对。我做过 1 组对照:把 1 个虚构的行业标准号喂给 3 个模型,其中 2 个都「确认」了这份标准,还补出了发布年份。3 个模型里有 2 个被同一段语料带偏,一致性在那种情况下没有证明力。
本文信息核对时间:2026-11。8 类场景按公开评测与本人测试记录整理,各模型的幻觉率差异较大,具体表现按所用版本实测。