AI 幻觉高发的情形有 8 类,集中在 3 个位置:问具体数字、问小众实体、问训练截止之后的事。判断标准只有 1 条:答案里的细节能不能拿你手上的材料核一遍。核不了的细节,先当它不存在。
幻觉的特征是好用。它给的答案结构完整、语气肯定、格式规范,看起来比查资料快得多。2025 年 4 月我在 5 个平台上问同一组 20 个问题,其中带具体数字的 6 个问题里,有 4 个给出的数字对不上公开资料。
分 3 组看:数据本就没有、上下文被丢掉、提问本身带了引导。3 组的处理方式不同,第 1 组只能核,第 2 组要拆开问,第 3 组换问法就行。
这一类最容易被当成真的,因为输出最像标准答案。特征是有零有整、带单位、带年份。
这一类里,医疗与法律条文的风险最高。条款号、剂量、适应证这些细节,模型给出的编号常对得上格式但对不上内容,2025 年我核过 1 组 12 条医学常识问答,其中 3 条的指南年份与出处是拼的。这类问题只用来找方向,落到具体条款要查原文。
价格与型号也在这类里。同一款设备在不同年份有 3 到 4 个版本,模型会把不同版本的参数混着说,看着像 1 台机器,其实参数来自 2 个型号。
材料你给了,模型没全读进去。长文档与多轮对话里出现得最多,错误方式很隐蔽:前后段落的数字被混用。
问题里带了预设,模型顺着预设往下答。这类幻觉的责任一半在提问方,换问法就能消掉。
下面这张表按出错位置列了核对动作。核不了的那一栏,建议在正文里留空或写待补充。
| 情形 | 典型问法 | 出错表现 | 核对方式 |
|---|---|---|---|
| 统计数字 | 去年产量多少 | 带小数、无来源 | 查统计年鉴或行业协会年报 |
| 小众实体 | 某某公司创始人是谁 | 人名职务齐全但查无此人 | 查工商登记与官网 |
| 文献引用 | 给 3 篇相关论文 | 格式对、题名搜不到 | 去期刊库按题名检索 |
| 时效信息 | 今年新规是什么 | 按旧版答、语气肯定 | 查发布部门当期公示 |
| 长文摘要 | 总结这份 50 页文件 | 中间段落缺失 | 分段提问、逐段比对 |
| 预设前提 | 为什么 A 更便宜 | 顺着前提编理由 | 改成中性问法再问 1 次 |
4 个动作,1 到 2 分钟能做完。命中 2 条以上,这条答案就不要直接用。
3 个做法能压掉大部分幻觉。第 1 个最有效,成本也最低。
我 2025 年帮 1 家做工业品的客户整理产品参数,让模型从 12 份 PDF 里抽规格。第 1 轮抽出 86 条,逐条核完有 11 条对不上,全是它按同类产品补的。改成「每章单发 1 次、要求标页码」之后,第 2 轮 92 条里错了 2 条,这 2 条是原文本身写得不清楚。
3 类输出可以放宽。放宽的前提是结果只影响你自己,不对外发布、不进合同、不做决策依据。
反过来,凡是输出会被别人拿去当依据的,都要核。对外材料、报价单、政策解读、技术参数这 4 类,核 1 遍的成本远低于改错的成本。我给客户出的稿子里,凡是带数字的段落,都单独标 1 遍来源,核不完就删掉。
核对要留痕。把核过的条目写进 1 张表,标上来源与核对日期,下次复用同 1 条信息时不用重查。这张表积累到 200 条以后,常见问题的答案基本都在里面,模型用来组织语言就行,数字从表里取。
留痕还有个用处:判断模型在哪些方面稳。核过 50 条之后会发现,某些类型的问答准确率高,某些几乎必错,这比笼统地说「AI 会编」有用。摸清这个分布,能决定哪些活交给模型、哪些活自己查。我给团队定的规矩是,涉及金额与日期的活,一律自己查。
本文信息核对时间:2026-11。各平台模型版本不同,幻觉的分布与频次会有出入,具体按当期实测。