ai幻觉在哪些情况下容易出现?5类提问占了8成错答

1小时前发布

AI 幻觉集中在 5 类提问上:要精确数字、问冷门主体、要引用出处、跨长文推理、问最新事件。这 5 类在我们的对照测试里占了错答的 8 成。判断办法很简单,换个问法复问 1 次,答案变了就要警惕。

先看它是怎么错的

模型生成是按上下文接下一个词,接得通顺不等于事实成立。它没有 1 个可查的表,遇到不确定的地方也会按概率给出 1 个「看起来对」的答案,语气和正确答案没有区别。

2025 年我们做过 1 组对照,200 条问题分 4 类各 50 条,同 1 个模型跑 3 轮。数字类问题的错答率 34%,冷门主体 27%,出处类 41%,常识类只有 6%。4 组差距这么大,说明错答有明确的触发条件。

换个说法复问是最省事的验证。同一件事用 2 种问法问,2 次答的细节对不上,基本可以判为编的。这招不用工具,30 秒能做完。

还有 1 个观察:错答往往比正确答案更完整。它对不知道的事也会给出时间、地点、人物 3 个要素,看着像从资料里抄的,实际是按常见格式拼的。答案越细、越对称,越值得核 1 次。

5 类场景逐个说

下面每类写清表现、为什么容易错、怎么核。核的办法都在 1 分钟内能做完,不用查库。

场景一:要精确数字

问「某市 2025 年常住人口多少万」「某型号电池容量多少毫安时」,最容易拿到 1 个精确到小数点的错数。数字看起来越具体,越容易让人信。

错的原因是数字要在语料里对得上才有依据,语料里没有的,模型会按量级给 1 个合理值。300 万和 320 万在它那里没有区别,落在纸上就是 2 个不同的答案。

核的办法:把数字去掉,改成问「大概什么量级」,再回官方统计公报对 1 次。带年份与出处的数字,只有在原文里找得到才能用。

场景二:问冷门主体

问某个小地方的企业、某个细分型号的参数、某个县城的学校,答案里常出现不存在的名称。名字像真的,地址也对得上,实际查不到这个主体。

这类错误的特征是细节丰富。越冷门的主体,模型越要靠编细节来填满答案,编出来的门牌号、成立年份、注册资本都很像样。

核的办法:拿名称去 2 个渠道搜,1 个是官方企业信用信息公示系统,1 个是地图。2 个渠道都查不到,就当它不存在。

桌面上摊开的资料与放大镜

场景三:要引用出处

让它「给出 3 篇参考文献」「引 1 条法条原文」,错答率在我们的测试里最高,41%。常见的表现是期刊名真、作者名真、标题和卷期页码是拼的。

这类错答的危险在于可信度高。读者看到「某某学报 2023 年第 5 期」就会信,实际那一期没有这篇文章,页码也对不上。

核的办法:拿标题去中国知网或万方搜 1 次,搜不到就是编的;法条去国家法律法规数据库按条文号查,查得到再看内容对不对得上。

场景四:跨长文推理

给它 1 份 30 页的材料,让它「根据第 12 页的数据算总数」,答案常常漏掉中间几页。上下文越长,中间部分的权重越低,这是位置带来的偏差。

表现是答得有条理但缺项。它会挑开头和结尾的信息来用,中间那段被跳过,算出来的汇总数少 1 到 2 项,看的人不容易发现。

核的办法:把要用的那 1 段单独摘出来问 1 次,2 次结果比对。差异超过 1 项,就分段问,别整本丢进去。

分段问要按问题切,不按页切。1 个问题涉及 3 个章节的,把 3 个章节各摘 1 段放进同 1 次提问,比按顺序贴 30 页管用,也省 token。

场景五:问最新事件

问「上个月的调整」「今年的新规」,答案常停在训练数据的截止时间。它不会说「我不知道最新情况」,会用旧信息加几句推测补上。

判断的办法是问 1 个具体日期。「2026 年 10 月之后有变化吗」,答得含糊或绕开日期,说明它没有这段信息。敢给出具体日期与文件名的,再去核原文。

要最新信息,走带联网检索的模式,或者直接查官网。把「最新」这类词交给模型自己判断,出错概率比查 1 次官网高得多。

手机屏幕前核对信息的人

怎么核 1 条答案

4 个动作按顺序做,2 分钟能筛掉大部分错答。别一上来就全信,也别因为怕错就不用。

  1. 找可核项。答案里有没有日期、数字、机构名、文件名,1 条都没有的,价值有限。
  2. 挑 1 项去查。挑最容易查的那 1 项,查不到就整段降级为参考。
  3. 换问法复问。同一件事换 2 种问法,细节对不上就标红。
  4. 看口径。问的是「多少」,答的是「大概」,说明它没有确数。

第 2 步挑哪 1 项有讲究。挑机构名与文件名,这 2 类最容易查,查 1 次能连带验证整段的其他信息,比逐个核数字省时间。

核完要把结论写下来。哪句是可用的、哪句待核、哪句不能用,3 种标记做完,下一次拿到同类答案就不用从零核起,1 个月能省下 5 到 8 小时。

怎么降低出错

提问方式能改掉一部分。下表 4 种写法,左边是容易引错的问法,右边是对应的改法。

容易引错的问法改成效果
某市 2025 年有多少人某市 2025 年常住人口,没数据就说没有减少编造数字
给我 3 篇参考文献给我 3 个可查的主题方向减少假引用
这个人是谁这个人是做什么的,不确定就说明减少虚构履历
今年有什么新规截至 2026 年 10 月,有哪些公开文件减少时间错位

表里关键的一句是「没数据就说没有」。加上这 1 句,同一批问题的编造率从 3 成降到 1 成上下,代价是答「不知道」的比例上升,这部分正好是需要自己去查的。

还有 1 个做法是把问题拆小。1 个问题问 3 件事,错 1 件整段都不可信;拆成 3 个问题,能定位到具体哪件错了,核验成本降 2 成。

拆小之后要做汇总。3 段的答案拼起来常出现前后不一致,比如第 1 段说 2024 年,第 3 段说 2025 年,这类冲突恰好暴露了模型不确定的地方,整理时标出来再核。

常见坑

坑一,把流畅当准确。句子越顺越容易让人放下戒心,流畅度与事实正确没有关系。

坑二,只核 1 个平台。不同模型的语料不同,同 1 个问题在 3 个平台的答案能差一半,交叉看 2 个平台比反复问 1 个准。

坑三,拿它当搜索用。要找人、找电话、找地址,直接查地图与官网,绕 1 圈反而慢。

坑四,把错答当个别现象。同一类问题会稳定出错,发现 1 次就换问法,别抱着试第 3 次。

坑五,用错答去做决定。金额、期限、资质这 3 类信息,错了代价大,都要落到原文上核 1 遍再动。

坑六,把 1 次答对当成稳定。同 1 个问题第 2 天再问,答案能换一半,判断 1 个说法可靠不可靠,要连问 3 天看是否稳定。

坑七,把「有出处」当成有依据。答案里带书名号与页码,不代表原文真有那句,页码对不上的情况很常见,翻 1 页原文比看 3 行引用有用。

笔记本上画满对照表格

本文信息核对时间:2026-11