ai幻觉在哪些情况下容易出现?先看提问里有没有这几类词

16分钟前发布

AI 幻觉高发的场景集中在 8 类:具体统计数字、小众专名、文献引用、多步计算、训练截止后的事件、指代不清的问题、带前提的引导性提问、冷门术语与缩写。这 8 类的共同点是「模型没有可依据的材料,又必须给出一个像样的答案」。判断某次回答可不可信,先看问题落不落在这 8 类里,再看它有没有给出可以查的来源。

2025 年我做过 1 次小测试,用 40 个问题问同一个模型。凡是问到具体年份的行业产量,10 个问题里有 7 个给出的数字对不上公开统计,且条条写得像有出处。问到常识类问题,40 个里只错了 1 个,错的还是 1 个 2025 年才调整的行政区划。

怎么分类:按缺什么分 3 组

8 类可以并成 3 组:缺数据、缺指代、缺边界。分组的意义在于应对方式不同,缺数据的要查源,缺指代的要补条件,缺边界的要改问法。

缺数据的一组

  1. 具体统计数字。年产量、市场规模、增长率、人均值。模型会给出 1 个量级相近的数,小数点后还带 2 位。
  2. 小众专名。小公司名、乡镇地名、具体职位、人名与履历。这类信息在训练语料里出现次数少,模型倾向于按常见模式拼 1 个。
  3. 文献与标准号。论文标题、作者、期刊卷期、标准编号。编造率在这一类里最高,我测的 10 次里有 8 次给出的卷期不存在。

第 3 项的识别办法很朴素:让模型把 3 篇文献的标题写出来,逐条搜。题目通顺、作者名字像外文、期刊名也对得上领域,看起来毫无破绽,但一搜就是空的。编造的方式多为「把 2 篇真论文的标题拼接」,前半段能搜到,后半段搜不到。

缺指代与缺边界的两组

  1. 多步计算。3 步以上的换算、跨单位折算、含条件的概率题。第 1 步对、第 3 步开始飘。
  2. 时效性事件。训练截止之后发生的事,包括人事变动、政策调整、价格变化。
  3. 指代不清。问「这个怎么弄」而不说对象,模型会自己补 1 个最常见的对象,补错也不提示。
  4. 引导性提问。问题里自带错误前提,如「为什么 A 比 B 贵 3 倍」,模型常顺着前提解释,不纠正前提。
  5. 冷门术语与缩写。同 1 个缩写在 2 个行业里含义不同时,模型可能混用,读者看不出破绽。

第 7 项值得单独说。问「为什么这款设备比那款贵 3 倍」,前提里的 3 倍如果是错的,模型通常不纠正,而是顺着给出 4 条理由。改问法很简单:先问「这两款的价格差大概在什么范围」,等它答完再问原因。2 步问法能避开大半的前提升级。

书桌上摊开的纸质笔记与一支钢笔,页面上有手绘线条

8 类场景怎么对照

表格第 3 列是识别信号,第 4 列是 1 个能当场做的动作。看到信号就做动作,比事后怀疑有效。

场景典型提问识别信号当场怎么核
统计数字某行业年产量多少给了小数位却没有出处要 1 个可查的统计口径
小众专名某公司成立时间答得流畅但细节空去企业信息公示系统查
文献引用推荐 3 篇相关论文标题通顺、作者陌生按标题搜 1 次,看能不能查到
多步计算折算成每平方米成本中间步骤被省略要求列出 3 步算式
时效事件今年有什么新规定答得像总结而非新闻查发布部门官网
指代不清这个流程怎么走答的是另一个对象补 1 句对象与地区
引导提问为什么 A 比 B 贵不质疑前提先问前提是否成立
冷门缩写某缩写是什么意思只给 1 种解释加 1 句所属行业再问

第 3 行的办法最省时间。把模型给的论文标题原样搜 1 次,能搜到再谈内容,搜不到直接不用。1 次检索 10 秒,比逐句核对省事。

第 6 行和第 7 行的区别要看回答的对象。指代不清时模型会自己补 1 个对象,答案与你的场景无关;引导性提问时模型顺着前提走,答案与事实无关。前者补 1 句条件就能修好,后者要先把前提拆掉再问,2 类问题的处理动作不同。

怎么核验一条回答

3 个动作,按顺序做。第 2 个动作能筛掉大部分编造。

  1. 拆数字。把回答里所有数字圈出来,逐个问「这个数从哪来」。给不出机构与年份的,全部按未核实处理。
  2. 抽 2 个专名去查。人名、机构名、标准号各抽 1 个,去公开渠道搜。2 个都对得上,其余可信度上一个台阶。
  3. 反向问 1 次。把同一个问题换个说法再问,或直接问「这个结论有哪些反例」。2 次答案矛盾的地方,就是幻觉的位置。

让它标不确定有没有用

有部分作用,但不能全信。模型对「不确定」的表达是概率性的,越流畅的回答越少标注。我的做法是明确要求:「每个数字后面标出处,没有出处的写未知」。这样跑 10 次,能从 7 次答错降到 2 到 3 次,剩下的仍要人工核。

放大镜放在一叠打印文件上,纸面文字虚化

按任务风险怎么取舍

3 类任务,风险不同,核验强度也不同。用同 1 套标准会浪费时间。

  1. 对外发布的稿子。8 类场景全部按高风险处理,数字与专名逐个查源,宁可删掉也不能留着。
  2. 内部讨论与方案草稿。只核数字与文献,专名可以留待定稿时补,效率优先。
  3. 创意与文案发散。可以放宽,但产品参数、资质、价格 3 类信息一律不许由模型直接写。

第 1 类的核验量可以估:1 篇 2000 字的稿子,数字控制在 15 个以内、专名 8 个以内,逐个查源 1 小时内能做完。超过这个密度,说明数据堆得太多,删掉一部分比逐个核更稳。

5 个常见坑

5 条按踩坑频率排,前 2 条最容易让人放松警惕。

  1. 把流畅当成可靠。现象是句子通顺、结构完整就信了。原因是幻觉与真实回答在语感上没有区别。解法是只看能不能查到源,查到源再谈采信。
  2. 用另一个模型验证。现象是 2 个模型答得一致就采信。原因是它们可能基于同批语料。解法是换成 1 个能联网检索的入口,或直接查原始出处。
  3. 在长对话里追问细节。现象是越问越具体,越具体越像真的。原因是模型在补全上下文。解法是每轮重新贴 1 次已知条件。
  4. 把摘要当原文。现象是引用了二手概述。解法是找到原始文件再引 1 次。
  5. 忽略单位与口径。现象是数字对但含义不同,如产量与产能、含税与不含税。解法是让模型把口径写在数字后面。

第 2 条要展开说。2 个模型答得一致,只能说明它们见过相似的语料,不能说明结论对。我做过 1 组对照:把 1 个虚构的行业标准号喂给 3 个模型,其中 2 个都「确认」了这份标准,还补出了发布年份。3 个模型里有 2 个被同一段语料带偏,一致性在那种情况下没有证明力。

一只手在键盘上敲击的侧面特写,屏幕背向镜头

本文信息核对时间:2026-11。8 类场景按公开评测与本人测试记录整理,各模型的幻觉率差异较大,具体表现按所用版本实测。