ai幻觉在哪些情况下容易出现?6类情形各配1个自查动作

7小时前发布

AI 幻觉集中在 6 类情形:问精确数字与日期、问小众实体、要求给链接出处、跨长文档引用、问有时效的事、多轮对话里被反复追问。这 6 类的共同点是答案只有一个正确值,而模型手里没有这个值。

下面逐条写:每一类的表现长什么样、为什么会出、自己怎么在 2 分钟内查出来。第 4 节给一张对照表,第 5 节给 3 个降低幻觉的提问改法。文中例子都取日常会问的问题类型,不涉及具体产品评测。

按信息确定性分 3 组

  1. 硬事实类。数字、日期、金额、条文编号、电话与地址。答错一个字符就是错的,也最容易发现。
  2. 软事实类。某人的观点、某件事的经过、某个行业的现状。错得不明显,读起来通顺,最容易被信。
  3. 形式类。引用出处、页码、链接、文件名。模型会给一个格式完全正确的假出处,这一类的坑最深。

三组的危险程度从低到高。硬事实错了能当场发现,软事实错了要过几天才反应过来,形式类错了几乎没人去核。

桌面上摊开的空白文档与一支笔,旁边放着一副眼镜

6 类容易出幻觉的情形

问精确数字与日期

销售额、人口、增长率、成立年份、条文生效日,这类问题模型会给一个具体到小数位的数。它没有查库,数是从语料里拼出来的近似值。我 2026 年 9 月问过一次某地级市的常住人口,回答给了一个六位数,与我后来在统计公报上看到的数差了两万多。

自查办法很简单:凡是带小数位或带具体年月日的答案,一律回原始出处核。核不到就把这个数删掉,别改成约数继续用。

问小众实体

小地方的机构名、成立 3 年的公司、刚发布的型号、县级的办事窗口电话。语料里出现次数少,模型只能靠构词规律拼,拼出来的名字很像真的。街道政务服务中心、某某县第二人民医院这类,容易被拼成一个查不到的机构。

自查看两点:这个名字在搜索结果里能不能找到 3 条以上不同来源的记录;地址与电话能不能在官方站点对上。两条都不满足,就当它查无此地此人,重新找线索。

要求给链接与出处

让它给一条参考链接,它会给一个格式完全正确的网址,域名像真的、路径像真的,点开是 404。论文引用更明显,作者、期刊、年份、卷期号齐全,DOI 编号也有,查下去查无此文。

自查只有一条:每个链接都点开。点不开的一律不用,别因为格式规整就信。要引用就用自己能打开的那 1 到 2 条。

跨长文档引用

给一份 40 页的报告,问第 27 页写了什么。回答可能把第 12 页的内容说成第 27 页,页码、章节名都编得像。文档越长、结构越接近,串段越容易出。

自查办法是让它先复述原文再回答,复述对不上就是串了。或者按章节分段提问,一次只给 3 到 5 页。

问有时效的事

政策是否调整、某平台规则是否变化、某活动是否还在办。模型的知识有截止时间,问到现在之后的事,它会用旧规则加推测补上,语气还很肯定。

自查看答案里有没有时间限定词。写着截至目前、近期、一般为这类模糊表述的,基本都是推测。改问 2026 年 11 月之后的官方公告在哪查,比问结论有用。

多轮对话里被反复追问

第一轮它说不知道,追问 3 次之后开始给答案,第 5 次给的答案最具体。这类答案由对话压力推出来,模型手里仍然没有依据。我在测试里反复问同一个查无此地的地名,问到第 4 轮,它给出了所属省份与邮政编码。

自查办法是记住第一轮的回答。第一轮说没查到,后面所有补充都按推测看。

一叠按顺序摊开的空白纸张,纸面干净无字

6 类情形对照表

情形典型表现自查动作耗时
精确数字给到小数位的统计值回统计公报核原值3 分钟
小众实体机构名、电话、地址很具体搜 3 条不同来源2 分钟
链接出处网址格式规整但打不开逐条点开1 分钟
长文档引用页码与章节对不上让它先复述原文2 分钟
时效问题用旧规则答新问题查官方最新公告页5 分钟
反复追问越问越具体回看第一轮回答1 分钟

表里耗时一列是按一个人操作算的。6 类全核一遍 15 分钟左右,实际只用核那些要写进正式材料的部分,日常查个地址查个电话,核前两类就够。

3 个降低幻觉的提问改法

  1. 把结论问法改成出处问法。不问某政策规定几年,改问这个规定写在哪个文件的第几条,我去哪儿能下载原文。
  2. 把开放问法改成范围问法。不问某行业现状如何,改问在给定的 3 段材料里,哪些数字能支撑这个判断。
  3. 把一次问清改成分步确认。先让它列出需要哪些信息才能答,再逐项补,中间每一步都问一句你依据的是哪一段。

第 1 条改法效果最直接。问出处时,模型要么给一个能核的路径,要么明说不知道,编造的空间小很多。

一只手在笔记本上做标记,纸面只有线条与方格

怎么核验与留痕

核验的动作固定成 3 步:找原始出处、比对关键数字、记录核对时间。三步都过再写进材料,缺一步就标成待核。给同事的材料里带上核对时间,比写一句已核实有用,对方知道该在什么时候重核。

留痕的方式我用自己的做法:每条要用的结论后面跟一个方括号,写清出处名称与核对日期,例如某年统计公报、2026 年 11 月核。三个月后回头看,一眼知道哪条过期了。

团队协作时多做一步:把核过的结论单独存成一个文件,标注来源与有效期,其他人引用只从这个文件里拿。这样一处核错只错一次,不至于三个人各核一遍、各错一遍。文件按主题分,别按日期分,日期分法三个月后就找不到东西。

还有一处容易漏:答案里的单位。同一件事用万吨和亿吨表述,量级差 1 万倍,模型偶尔会换单位而不换数。核的时候顺手看一眼单位与量级对不对,比逐个数字核对快。

4 个常见误解

  1. 以为开联网搜索就不会错。联网只解决查得到,摘要环节仍会改写,数字被改错的不少。
  2. 以为长回答更可信。长度与准确度没有关系,写得越长,编造的细节越多。
  3. 以为语气肯定就是知道。语气由表达风格决定,与有没有依据无关。
  4. 以为换个模型问就对了。同一批语料训练出来的模型,错的地方高度重合,交叉验证要用模型加原始出处。

第 4 条值得多说一句。我拿同一个不存在的地名问过 4 个不同的模型,3 个给出了同一个错误的省份,说明它们的语料里有同一处污染。多模型互证只能证明说法流传广,不能证明它对。

把 AI 当检索入口,不当结论来源。要写进合同、报告、对外材料的内容,都回到原始出处核一遍,核不到的删掉。本文信息核对时间:2026-11。