AI 幻觉集中在 6 类提问里:具体统计数字、训练截止之后的近期事件、小众实体(人名、型号、地方机构)、要求给出处、长对话里的跨轮引用、多步计算。这 6 类的共同点是模型没有可依据的原文,只能靠模式补全。
我 2025 年测过 1 轮,用 40 个问题在 4 个国内平台上跑,其中 12 个问题涉及地方机构地址,答对 5 个,剩下 7 个给出的地址全是拼出来的。同 1 批问题里,问常识的 20 个只错了 1 个。
分类的依据是「模型手上有没有可靠依据」,没依据的地方就会补。6 类按出错概率从高到低排。
第 4 类最难发现。格式对、编号像、作者名也像真的,不去查就会当真。有 1 次我拿它给的 3 条文献去检索,2 条查不到,1 条标题对但作者不对。这 3 条里的第 2 条后来在 1 篇公众号文章里看到被引用,说明这种错会传播出去。
凡是涉及产量、销量、人数的回答,先问它的来源。回答里出现「据某年统计」但没给发布机构的,按未核实处理。核对动作很简单:把数字加上关键词去搜,能找到同一数字的官方发布才算数,找不到就删掉。
行业数据还有 1 个坑:口径。同样叫「市场规模」,含不含上游、按出厂价还是零售价,差 2 到 3 倍。看到数字先看口径,口径不明的数字不要引用。
对话开始时问 1 句「你的知识截止到什么时候」,能省掉后面很多误会。截止之后的政策、价格、人事变动,模型答不准。处理办法是把它当检索助手,让它列出「应该去哪个官网查什么」,别让它直接给结论。
模型带联网功能时也要看引用。回答里带了链接的,点开看 2 件事:链接能不能打开,页面内容与它说的对不对得上。我遇到过链接能打开但内容被它读反的情况,说「支持」的原文写着「不予支持」。
机构名称、地址、电话、型号这 4 项,用 2 个独立来源交叉核对,2 个来源一致才用。第 2 个来源别选转载同一篇稿子的站点,那样等于只核了 1 次。
要求出处时,让它把出处写成「作者加标题加期刊加年份」,然后逐项检索。4 项里缺 2 项以上的,基本可以判定是编的。学术写作里这条要卡死,编造的文献进正文,后面很难收场。
长对话里的引用错误,靠 1 个动作就能压住:每 5 轮做 1 次小结,让它复述前面确认过的 3 到 5 条结论,你看一眼有没有串。串了就及时纠正,越往后越难改。
计算类要求它把每一步的数写出来,包括单位。中间步骤能看见,错在哪一步一目了然。多步计算里最容易错的是单位换算和百分比基数,这 2 处让它单独标出来。
下表把 6 类场景、典型表现和核对动作并排列出,右列可以直接照着做。
| 场景 | 典型表现 | 核对动作 |
|---|---|---|
| 统计数字 | 数字精确到小数,无发布机构 | 加关键词搜官方发布,核口径 |
| 近期事件 | 旧事套新时间,政策名像真的 | 先问截止时间,再去官网核对 |
| 小众实体 | 2 个真名称拼成 1 个假名称 | 2 个独立来源交叉,看地址与电话 |
| 要求出处 | 标题格式对,作者与页码编造 | 逐项检索,缺 2 项即弃用 |
| 长对话引用 | 把补充内容记到别的条目下 | 每 5 轮小结 1 次,人工过一遍 |
| 多步计算 | 中间步骤被改写,结果偏差大 | 要求写出每步与单位,单独核基数 |
坑 1,用「大概」「举例说明」这类开口。让它「举 3 个例子」而不给范围,它容易编出不存在的案例。改成「从下面这 5 条里挑 3 条」,编造空间就小了。
坑 2,把假设当事实问。「某品牌 2025 年销量是不是第一」这种问法自带前提,它会顺着前提编数据。改成「某品牌 2025 年销量是多少,有官方发布吗」。
坑 3,追问时不给上下文。「那它呢」这种指代,模型只能猜。追问时把对象写全,1 句话能省 3 轮来回。
坑 4,把 1 次答对当稳定。同一个问题问 3 次,答案不一样的,说明它没有依据,只是每次都在补。3 次答案一致的也要核来源,一致不代表对。
用 3 个动作过一遍,10 分钟内能完成。
第 3 项决定改动量。有 1 次客户的稿子里 6 条标红,但结论只依赖其中 2 条,改完 2 段就能用。3 步做完,1 篇 1500 字的稿子大概要 25 分钟,比事后被读者指出错误再改省得多。标红项超过 10 条的,直接让模型重写 1 段,别逐句修补。
会,但类型变了。带检索的模型错在「读错」和「混源」:把 A 页面的数字配到 B 页面的结论上,或把 2 篇不同年份的报告当成 1 篇。核对重点从「有没有来源」变成「来源与结论对不对得上」,链接能打开不等于引用正确。
部分有用。让它逐条标注「这条有没有原文依据」,能挑出一部分编造内容,但它对自己刚生成的数字仍有偏好,容易自己给自己背书。可行的组合是模型自查 1 轮,再人工抽 3 条核,抽到的错超过 1 条就整篇重做。
还有一类可以放宽,是内容不承担事实判断的场景。创意写作、格式转换、纯语言润色 3 类不涉及事实主张,错了不产生错误信息;涉及数字、政策、医疗、法律的,1 条都不能放宽,因为错 1 条就够影响判断。判断标准落在 1 个动作上:这段文字被引到公开场合,会不会让人做出错误决定。
本文信息核对时间:2026-11