ai幻觉在哪些情况下容易出现?6 类提问场景逐条对照

8分钟前发布

AI 幻觉集中在 6 类提问里:具体统计数字、训练截止之后的近期事件、小众实体(人名、型号、地方机构)、要求给出处、长对话里的跨轮引用、多步计算。这 6 类的共同点是模型没有可依据的原文,只能靠模式补全。

我 2025 年测过 1 轮,用 40 个问题在 4 个国内平台上跑,其中 12 个问题涉及地方机构地址,答对 5 个,剩下 7 个给出的地址全是拼出来的。同 1 批问题里,问常识的 20 个只错了 1 个。

一、按提问类型分 6 类

分类的依据是「模型手上有没有可靠依据」,没依据的地方就会补。6 类按出错概率从高到低排。

  1. 具体统计数字。问某年某行业的产量、门店数、人口数,模型容易给出看着合理的数字,小数点后还带 1 位。
  2. 近期事件。训练数据有截止时间,截止之后的事它不知道,但会用旧事套新时间,编出「某年某月发布了某政策」这类句子。
  3. 小众实体。地方机构、细分型号、非知名人名,名称越偏,编造的概率越高,常见表现是把 2 个真实名称拼成 1 个。
  4. 要求给出处。让它给论文标题、法条编号、报告页码,它会给格式正确但不存在的东西。
  5. 长对话里的跨轮引用。聊到第 10 轮再问「刚才第 3 点说的什么」,它会把中间补充的内容记串。
  6. 多步计算与推理。中间步骤的结果被它自己改掉,最后答案错得看不出错在哪。

第 4 类最难发现。格式对、编号像、作者名也像真的,不去查就会当真。有 1 次我拿它给的 3 条文献去检索,2 条查不到,1 条标题对但作者不对。这 3 条里的第 2 条后来在 1 篇公众号文章里看到被引用,说明这种错会传播出去。

桌面上摊开的笔记本与打开的笔,纸面留白,侧光

二、逐类看怎么核对

数字类:要原始来源

凡是涉及产量、销量、人数的回答,先问它的来源。回答里出现「据某年统计」但没给发布机构的,按未核实处理。核对动作很简单:把数字加上关键词去搜,能找到同一数字的官方发布才算数,找不到就删掉。

行业数据还有 1 个坑:口径。同样叫「市场规模」,含不含上游、按出厂价还是零售价,差 2 到 3 倍。看到数字先看口径,口径不明的数字不要引用。

近期事件:先确认截止时间

对话开始时问 1 句「你的知识截止到什么时候」,能省掉后面很多误会。截止之后的政策、价格、人事变动,模型答不准。处理办法是把它当检索助手,让它列出「应该去哪个官网查什么」,别让它直接给结论。

模型带联网功能时也要看引用。回答里带了链接的,点开看 2 件事:链接能不能打开,页面内容与它说的对不对得上。我遇到过链接能打开但内容被它读反的情况,说「支持」的原文写着「不予支持」。

小众实体与出处:用 2 个来源交叉

机构名称、地址、电话、型号这 4 项,用 2 个独立来源交叉核对,2 个来源一致才用。第 2 个来源别选转载同一篇稿子的站点,那样等于只核了 1 次。

要求出处时,让它把出处写成「作者加标题加期刊加年份」,然后逐项检索。4 项里缺 2 项以上的,基本可以判定是编的。学术写作里这条要卡死,编造的文献进正文,后面很难收场。

长对话与计算:让它写出中间步骤

长对话里的引用错误,靠 1 个动作就能压住:每 5 轮做 1 次小结,让它复述前面确认过的 3 到 5 条结论,你看一眼有没有串。串了就及时纠正,越往后越难改。

计算类要求它把每一步的数写出来,包括单位。中间步骤能看见,错在哪一步一目了然。多步计算里最容易错的是单位换算和百分比基数,这 2 处让它单独标出来。

手机立在小支架上,屏幕暗着无内容,桌面整洁

三、6 类场景对照表

下表把 6 类场景、典型表现和核对动作并排列出,右列可以直接照着做。

场景典型表现核对动作
统计数字数字精确到小数,无发布机构加关键词搜官方发布,核口径
近期事件旧事套新时间,政策名像真的先问截止时间,再去官网核对
小众实体2 个真名称拼成 1 个假名称2 个独立来源交叉,看地址与电话
要求出处标题格式对,作者与页码编造逐项检索,缺 2 项即弃用
长对话引用把补充内容记到别的条目下每 5 轮小结 1 次,人工过一遍
多步计算中间步骤被改写,结果偏差大要求写出每步与单位,单独核基数

四、4 个容易忽略的触发点

坑 1,用「大概」「举例说明」这类开口。让它「举 3 个例子」而不给范围,它容易编出不存在的案例。改成「从下面这 5 条里挑 3 条」,编造空间就小了。

坑 2,把假设当事实问。「某品牌 2025 年销量是不是第一」这种问法自带前提,它会顺着前提编数据。改成「某品牌 2025 年销量是多少,有官方发布吗」。

坑 3,追问时不给上下文。「那它呢」这种指代,模型只能猜。追问时把对象写全,1 句话能省 3 轮来回。

坑 4,把 1 次答对当稳定。同一个问题问 3 次,答案不一样的,说明它没有依据,只是每次都在补。3 次答案一致的也要核来源,一致不代表对。

五、怎么验证一篇回答能不能用

用 3 个动作过一遍,10 分钟内能完成。

  1. 标出可核事实。把回答里的数字、名称、时间、出处逐条圈出来,1 篇 500 字的回答通常有 8 到 15 条。
  2. 逐条找来源。能找到官方或原始来源的标绿,只能找到转载的标黄,找不到的标红。标红的直接删。
  3. 看结论是否依赖标红项。结论建立在 1 条标红事实上,整段重写;标红项只是修饰,删掉即可。

第 3 项决定改动量。有 1 次客户的稿子里 6 条标红,但结论只依赖其中 2 条,改完 2 段就能用。3 步做完,1 篇 1500 字的稿子大概要 25 分钟,比事后被读者指出错误再改省得多。标红项超过 10 条的,直接让模型重写 1 段,别逐句修补。

窗边书架与几本合上的书,浅景深

带了联网搜索还会幻觉吗

会,但类型变了。带检索的模型错在「读错」和「混源」:把 A 页面的数字配到 B 页面的结论上,或把 2 篇不同年份的报告当成 1 篇。核对重点从「有没有来源」变成「来源与结论对不对得上」,链接能打开不等于引用正确。

让模型自己检查有用吗

部分有用。让它逐条标注「这条有没有原文依据」,能挑出一部分编造内容,但它对自己刚生成的数字仍有偏好,容易自己给自己背书。可行的组合是模型自查 1 轮,再人工抽 3 条核,抽到的错超过 1 条就整篇重做。

还有一类可以放宽,是内容不承担事实判断的场景。创意写作、格式转换、纯语言润色 3 类不涉及事实主张,错了不产生错误信息;涉及数字、政策、医疗、法律的,1 条都不能放宽,因为错 1 条就够影响判断。判断标准落在 1 个动作上:这段文字被引到公开场合,会不会让人做出错误决定。

本文信息核对时间:2026-11