ai幻觉在哪些情况下容易出现?先看这几种提问方式

1小时前发布

AI 幻觉高发的情形有 8 类,集中在 3 个位置:问具体数字、问小众实体、问训练截止之后的事。判断标准只有 1 条:答案里的细节能不能拿你手上的材料核一遍。核不了的细节,先当它不存在。

幻觉的特征是好用。它给的答案结构完整、语气肯定、格式规范,看起来比查资料快得多。2025 年 4 月我在 5 个平台上问同一组 20 个问题,其中带具体数字的 6 个问题里,有 4 个给出的数字对不上公开资料。

按什么维度分组

分 3 组看:数据本就没有、上下文被丢掉、提问本身带了引导。3 组的处理方式不同,第 1 组只能核,第 2 组要拆开问,第 3 组换问法就行。

  1. 数据缺失:训练语料里没有,或极少。
  2. 上下文丢失:材料在,但没被完整读到。
  3. 提问引导:答案的形状被问题的预设决定了。

8 种情形逐条看

第 1 组:数据缺失

这一类最容易被当成真的,因为输出最像标准答案。特征是有零有整、带单位、带年份。

  1. 问具体统计数字。「去年行业产值多少」「某市有多少家门店」,模型会给 1 个带小数的数,来源说不清。
  2. 问小众人物或机构。成立 3 年的公司、地方性的协会、细分领域的学者,语料稀薄,模型会拼出 1 个看着合理的人名与职务。
  3. 要求给文献或链接。给的期刊名、作者名、年份都能对上格式,去数据库搜往往查不到。链接更是常指向不存在的页面。
  4. 问训练截止之后的事。2025 年下半年后的政策、价格、版本更新,模型要么说不知道,要么按旧的答,语气一样肯定。

这一类里,医疗与法律条文的风险最高。条款号、剂量、适应证这些细节,模型给出的编号常对得上格式但对不上内容,2025 年我核过 1 组 12 条医学常识问答,其中 3 条的指南年份与出处是拼的。这类问题只用来找方向,落到具体条款要查原文。

价格与型号也在这类里。同一款设备在不同年份有 3 到 4 个版本,模型会把不同版本的参数混着说,看着像 1 台机器,其实参数来自 2 个型号。

第 2 组:上下文丢失

材料你给了,模型没全读进去。长文档与多轮对话里出现得最多,错误方式很隐蔽:前后段落的数字被混用。

  1. 长文档摘要。30 页以上的文件,中间段落的细节容易被跳过,摘要只覆盖开头与结尾。
  2. 多轮对话累积。聊到第 8 轮以后,前文被压缩,前面定过的口径会被后面的话覆盖。
  3. 表格类输入。列数多的表格被拆成文本处理,第 4 列以后的内容常被漏掉。
桌面上一叠打印纸与红笔、放大镜,纸面只有空白横线

第 3 组:提问引导

问题里带了预设,模型顺着预设往下答。这类幻觉的责任一半在提问方,换问法就能消掉。

  1. 预设前提的问法。「为什么 A 比 B 便宜」这个问题里,A 便宜已经被当成事实,模型会补理由,不去质疑前提。
  2. 要求必须给出数量。「列出 10 个理由」这种指令,凑不满 10 条时,多出来的几条就是编的。

情形与核对方式对照

下面这张表按出错位置列了核对动作。核不了的那一栏,建议在正文里留空或写待补充。

情形典型问法出错表现核对方式
统计数字去年产量多少带小数、无来源查统计年鉴或行业协会年报
小众实体某某公司创始人是谁人名职务齐全但查无此人查工商登记与官网
文献引用给 3 篇相关论文格式对、题名搜不到去期刊库按题名检索
时效信息今年新规是什么按旧版答、语气肯定查发布部门当期公示
长文摘要总结这份 50 页文件中间段落缺失分段提问、逐段比对
预设前提为什么 A 更便宜顺着前提编理由改成中性问法再问 1 次
电脑屏幕上一段虚化的灰色文本块与光斑,界面无文字

怎么快速判断是不是幻觉

4 个动作,1 到 2 分钟能做完。命中 2 条以上,这条答案就不要直接用。

  1. 挑 1 个最具体的细节去搜。数字、人名、文件名都行,搜不到就是危险信号。
  2. 追问来源。「这个数字出自哪份文件」,答不上来或换 1 个说法,说明是拼的。
  3. 隔 1 天用不同问法再问 1 次。2 次答案的关键数字不一致,那次就是编的。
  4. 让它复述你给的原文。复述里出现你没写过的句子,说明它在补内容。

怎么减少

3 个做法能压掉大部分幻觉。第 1 个最有效,成本也最低。

  1. 把材料贴进对话,指令写「只依据以下材料回答,缺的写待补充」。这一句能挡掉大半编造。
  2. 把大问题拆成 3 到 5 个小问题,逐个问。长文档按章节分开,每次贴 1 章。
  3. 要数字的地方,要求它标出在原文的第几段。标不出来的,就是没有。

我 2025 年帮 1 家做工业品的客户整理产品参数,让模型从 12 份 PDF 里抽规格。第 1 轮抽出 86 条,逐条核完有 11 条对不上,全是它按同类产品补的。改成「每章单发 1 次、要求标页码」之后,第 2 轮 92 条里错了 2 条,这 2 条是原文本身写得不清楚。

哪些场合可以少核

3 类输出可以放宽。放宽的前提是结果只影响你自己,不对外发布、不进合同、不做决策依据。

  1. 改写与润色。把 1 段口语改成书面语,事实由你提供,模型只动措辞,出错概率低。
  2. 结构化整理。把散乱的 20 条笔记按主题归并,归并对不对你一眼能看出来。
  3. 思路发散。要 10 个选题方向,方向本身不涉及事实,筛掉不合适的就行。

反过来,凡是输出会被别人拿去当依据的,都要核。对外材料、报价单、政策解读、技术参数这 4 类,核 1 遍的成本远低于改错的成本。我给客户出的稿子里,凡是带数字的段落,都单独标 1 遍来源,核不完就删掉。

核对要留痕。把核过的条目写进 1 张表,标上来源与核对日期,下次复用同 1 条信息时不用重查。这张表积累到 200 条以后,常见问题的答案基本都在里面,模型用来组织语言就行,数字从表里取。

留痕还有个用处:判断模型在哪些方面稳。核过 50 条之后会发现,某些类型的问答准确率高,某些几乎必错,这比笼统地说「AI 会编」有用。摸清这个分布,能决定哪些活交给模型、哪些活自己查。我给团队定的规矩是,涉及金额与日期的活,一律自己查。

两只手各拿一张空白纸片对比,背景虚化,暖光

常见坑

  1. 把流畅当准确。语言通顺与事实正确是 2 件事,前者模型一直做得很好。
  2. 用同 1 个模型自查。让它检查自己的答案,多数时候会确认自己是对的。
  3. 相信「我不确定」这句话。模型说没把握时,前面的内容可能仍然有编的部分。
  4. 忽略单位。数字对了、单位错了,比数字错更难发现,比如万元写成元。
  5. 拿幻觉当素材二次加工。错的信息进了稿子,后面 3 轮校对都未必能揪出来。

本文信息核对时间:2026-11。各平台模型版本不同,幻觉的分布与频次会有出入,具体按当期实测。