AI 幻觉集中在 4 类问题上:要精确数字、问小众实体、要引用出处、在长文里问细节。共同点是模型手里没有可核对的信息源,只能顺着语言习惯往下接,接出来的句子通顺,事实是编的。
我把 60 天里的 180 次提问做了记录,出事实错误的 27 次,19 次落在这 4 类上,占 7 成。剩下 8 次属于术语理解偏差,换 1 个问法就能纠正,性质不一样。
分类的用处是提前防。知道自己问的属于哪一类,就能预判哪几句要核,不用整段怀疑。4 类里前 2 类靠外部核对,后 2 类靠改问法。
第 1 类缺数据,第 2 类缺条目,第 3 类缺来源,第 4 类缺注意力。4 种缺法对应 4 种写法,往下逐条说。
问「某地 2025 年常住人口多少」「这个行业市场规模多大」,模型给出的数字常带 2 位小数,看着像统计口径,实际没有出处。这类答案的特点是特别具体,具体到不该这么具体的程度。
核验办法只有 1 个:找原始发布机构。统计年鉴、部门年度公报、行业协会年报,3 类文件里能查到的才算数。查不到就把数字删掉,保留趋势描述。
不适用情形:问的是自己手上的数据。让模型算自己给的 20 行表格,它不会编数字,编的是公式理解。
还有一种情况要分清:数字是真的但过期了。2024 年的口径拿到 2026 年用,看着有出处,结论已经不对。核对时把发布年份一起看,2 年以上的数据要么标注年份,要么换成新口径。
小众人名、具体型号、地方机构、条款编号,这 4 样最容易出错。模型对高频实体记得住,对长尾实体靠拼,拼出来的名字听着像真的,搜不到。
我遇到过一次典型情况:问某款机床的夹具型号,答了 1 个格式完全正确的编号,去厂家官网查,没有这个型号。编号格式对、内容空,属于典型的拼装结果。
不适用情形:问的是大众品牌的主力产品。出货量大的型号在语料里出现频次高,答对的概率高出一截,核对成本也低。
让它给参考文献,标题、作者、期刊、页码 4 项常有一项是编的。编得最像的是页码和卷期,因为格式固定,容易被补全。
核验动作是逐条查 DOI 或篇名,查不到的直接删。真要做文献综述,用学术数据库检索,别让模型先给清单再反查,反查的工作量比自己检索还大。
不适用情形:只要观点不要出处。让模型解释 1 个概念、比较 2 种做法,不需要它给文献,也就没有编文献的机会。
塞进 8000 字材料再问第 3 节的第 2 个数据,答错的概率上升。长上下文里中间段落的注意力弱,模型容易把相邻段落的内容串过来。
处理办法是把问题定位到段。写「只看标题为××的那一节,第 2 段提到的数字是多少」,指明位置比笼统问「材料里说了什么」准得多。
不适用情形:材料在 2000 字以内。短材料的串行概率低,直接问细节问题即可。
| 场景 | 为什么会编 | 典型表现 | 核验动作 |
|---|---|---|---|
| 要精确数字 | 没有实时统计源,按常识补齐 | 数字带 2 位小数,无出处 | 查统计年鉴或部门公报 |
| 问小众实体 | 长尾条目在语料里稀薄 | 名字格式对,检索无结果 | 搜官网或工商信息 |
| 要引用出处 | 文献格式高度规律,易被补全 | 标题真、页码假 | 查 DOI 或篇名 |
| 长文问细节 | 中间段落注意力弱 | 把邻段数据串过来 | 指定位次再问 1 次 |
| 多轮追问 | 顺着用户的暗示改口 | 第 3 轮答案与第 1 轮相反 | 回到第 1 轮原话重问 |
第 5 行那个场景要单独说。用户说「我记得是 3 年吧」,模型常顺着改成 3 年,即使原来答的是 5 年。这类改口属于迎合,核验时把第 1 轮和第 3 轮的答案并排看,不一致就回到原始问题重问。
法律条文、医学剂量、财务口径这 3 类领域,术语密度高,幻觉的表现是「术语用对、关系用错」。比如把 2 个相近条款的适用条件互换,句子读起来专业,结论是错的。
这类错误自己看不出来,要靠原文对照。做法是把答案里的每 1 个条款编号记下来,去官方数据库逐条查,编号查不到或内容对不上,整段推翻重写。
这 4 步做下来,1 段 500 字的答案约 6 分钟。听着慢,比用错数据返工快,尤其是要写进对外文件的内容。
第 4 步最省力也最少人做。把结论句反过来说,如果反过来说也通顺,说明这句话没带具体条件,属于正确的废话。带条件的结论反过来说会立刻显得荒谬,一试就分出来。
第 2 条效果最明显。加这 1 句之后,我这边「无法确认」的回复从 3% 涨到 18%,同时错误率降了一半。宁可它说不知道,也别给 1 个像真的答案。
第 4 条值得说清。开了联网搜索以后,模型会引用网页,引用的网页如果是采集站或旧文,错误照搬。看到它给链接,先看域名,再看页面日期,2 步都过了再采信。
第 1 条有个反例。3 次答案不同不一定是这题缺资料,也可能是问法太宽,每次落到不同分支。把问题收窄到 1 个具体条件再问 3 次,答案就稳定了,这种情况改问法即可。
幻觉没法彻底消掉,能压到可接受的水平。做法是把它当 1 个反应快但记性不牢的助手,事实由自己把关,措辞和结构交给它。写进对外文件的每个数字,都留 1 条能点开的出处链接,事后被人问起也答得上。链接失效的要补新的,别把 1 个死链当凭证用。外部信息源优先选发布机构官网,次选行业年报,采集站的转载稿不要当出处。本文信息核对时间:2026-11