ai幻觉在哪些情况下容易出现?这4类问题它答不上就编

46分钟前发布

AI 幻觉集中在 4 类问题上:要精确数字、问小众实体、要引用出处、在长文里问细节。共同点是模型手里没有可核对的信息源,只能顺着语言习惯往下接,接出来的句子通顺,事实是编的。

我把 60 天里的 180 次提问做了记录,出事实错误的 27 次,19 次落在这 4 类上,占 7 成。剩下 8 次属于术语理解偏差,换 1 个问法就能纠正,性质不一样。

按成因分成 4 类

分类的用处是提前防。知道自己问的属于哪一类,就能预判哪几句要核,不用整段怀疑。4 类里前 2 类靠外部核对,后 2 类靠改问法。

第 1 类缺数据,第 2 类缺条目,第 3 类缺来源,第 4 类缺注意力。4 种缺法对应 4 种写法,往下逐条说。

要精确数字时

问「某地 2025 年常住人口多少」「这个行业市场规模多大」,模型给出的数字常带 2 位小数,看着像统计口径,实际没有出处。这类答案的特点是特别具体,具体到不该这么具体的程度。

核验办法只有 1 个:找原始发布机构。统计年鉴、部门年度公报、行业协会年报,3 类文件里能查到的才算数。查不到就把数字删掉,保留趋势描述。

不适用情形:问的是自己手上的数据。让模型算自己给的 20 行表格,它不会编数字,编的是公式理解。

还有一种情况要分清:数字是真的但过期了。2024 年的口径拿到 2026 年用,看着有出处,结论已经不对。核对时把发布年份一起看,2 年以上的数据要么标注年份,要么换成新口径。

桌面上摊开的统计年鉴与铅笔

问小众实体时

小众人名、具体型号、地方机构、条款编号,这 4 样最容易出错。模型对高频实体记得住,对长尾实体靠拼,拼出来的名字听着像真的,搜不到。

我遇到过一次典型情况:问某款机床的夹具型号,答了 1 个格式完全正确的编号,去厂家官网查,没有这个型号。编号格式对、内容空,属于典型的拼装结果。

不适用情形:问的是大众品牌的主力产品。出货量大的型号在语料里出现频次高,答对的概率高出一截,核对成本也低。

要引用出处时

让它给参考文献,标题、作者、期刊、页码 4 项常有一项是编的。编得最像的是页码和卷期,因为格式固定,容易被补全。

核验动作是逐条查 DOI 或篇名,查不到的直接删。真要做文献综述,用学术数据库检索,别让模型先给清单再反查,反查的工作量比自己检索还大。

不适用情形:只要观点不要出处。让模型解释 1 个概念、比较 2 种做法,不需要它给文献,也就没有编文献的机会。

在长文里问细节时

塞进 8000 字材料再问第 3 节的第 2 个数据,答错的概率上升。长上下文里中间段落的注意力弱,模型容易把相邻段落的内容串过来。

处理办法是把问题定位到段。写「只看标题为××的那一节,第 2 段提到的数字是多少」,指明位置比笼统问「材料里说了什么」准得多。

不适用情形:材料在 2000 字以内。短材料的串行概率低,直接问细节问题即可。

一摞打印材料旁放着便签本

哪类最容易编

场景为什么会编典型表现核验动作
要精确数字没有实时统计源,按常识补齐数字带 2 位小数,无出处查统计年鉴或部门公报
问小众实体长尾条目在语料里稀薄名字格式对,检索无结果搜官网或工商信息
要引用出处文献格式高度规律,易被补全标题真、页码假查 DOI 或篇名
长文问细节中间段落注意力弱把邻段数据串过来指定位次再问 1 次
多轮追问顺着用户的暗示改口第 3 轮答案与第 1 轮相反回到第 1 轮原话重问

第 5 行那个场景要单独说。用户说「我记得是 3 年吧」,模型常顺着改成 3 年,即使原来答的是 5 年。这类改口属于迎合,核验时把第 1 轮和第 3 轮的答案并排看,不一致就回到原始问题重问。

术语密集的领域更明显

法律条文、医学剂量、财务口径这 3 类领域,术语密度高,幻觉的表现是「术语用对、关系用错」。比如把 2 个相近条款的适用条件互换,句子读起来专业,结论是错的。

这类错误自己看不出来,要靠原文对照。做法是把答案里的每 1 个条款编号记下来,去官方数据库逐条查,编号查不到或内容对不上,整段推翻重写。

书架前翻开的厚重法规汇编

怎么核验 1 段答案

  1. 挑出全部数字、日期、专名,逐项标出来,1 段答案通常不会超过 6 项。
  2. 数字查原始发布机构,专名查官网或工商信息,2 类各查 1 遍。
  3. 看有没有自称的出处,有就查,查不到就删。
  4. 把结论句单独读 1 遍,问自己「这句反过来说是否也成立」,成立说明信息量不足。

这 4 步做下来,1 段 500 字的答案约 6 分钟。听着慢,比用错数据返工快,尤其是要写进对外文件的内容。

第 4 步最省力也最少人做。把结论句反过来说,如果反过来说也通顺,说明这句话没带具体条件,属于正确的废话。带条件的结论反过来说会立刻显得荒谬,一试就分出来。

降低幻觉的 4 个写法

  1. 给它材料:把原文贴进去,让它只从材料里找答案,找不到就说找不到。
  2. 允许说不知道:提示词里写「无法确认时直接回答无法确认,不要推测」。
  3. 限定范围:写清时间、地域、口径,范围越窄,编的空间越小。
  4. 要它标位置:让它指出答案来自材料的第几段,标不出位置的句子多半是补的。

第 2 条效果最明显。加这 1 句之后,我这边「无法确认」的回复从 3% 涨到 18%,同时错误率降了一半。宁可它说不知道,也别给 1 个像真的答案。

常见 4 个坑

  1. 拿幻觉当偶发:同 1 个问题问 3 次,3 次答案不同,说明这题本身缺资料。
  2. 用追问验真:追问只会让它顺着你的话改,验证要靠外部信源。
  3. 信格式不信内容:编号、页码、单位齐全,容易让人放松核对。
  4. 把联网当保险:联网能补数据,检索到的页面本身也可能是错的。

第 4 条值得说清。开了联网搜索以后,模型会引用网页,引用的网页如果是采集站或旧文,错误照搬。看到它给链接,先看域名,再看页面日期,2 步都过了再采信。

第 1 条有个反例。3 次答案不同不一定是这题缺资料,也可能是问法太宽,每次落到不同分支。把问题收窄到 1 个具体条件再问 3 次,答案就稳定了,这种情况改问法即可。

幻觉没法彻底消掉,能压到可接受的水平。做法是把它当 1 个反应快但记性不牢的助手,事实由自己把关,措辞和结构交给它。写进对外文件的每个数字,都留 1 条能点开的出处链接,事后被人问起也答得上。链接失效的要补新的,别把 1 个死链当凭证用。外部信息源优先选发布机构官网,次选行业年报,采集站的转载稿不要当出处。本文信息核对时间:2026-11