AI 幻觉高发在 5 类场景:问具体数字、问时间很近的事、问小众实体、让它引用出处、让它一次处理多个约束。这 5 类的共同点是训练数据覆盖薄,模型没有足够依据就必须接话,接出来的东西读着通顺,细节是编的。判断办法有 3 个,不用懂技术也能做。
第 1 个维度是知识密度。训练数据里出现频率高的内容,模型答得稳;出现频率低的,出错率高。按这个维度切,把问题分成「常识类」「专业细节类」「时效类」3 档,第 3 档最容易出幻觉。
第 2 个维度是约束数量。1 个问题 1 个要求,模型好办;1 个问题带 5 个要求,模型会为了满足格式而牺牲事实。我在 2025 年做过 1 组对照:同一个问题分别用 1 个约束和 6 个约束提问,各问 20 次,前者出现编造的比例是 1 次,后者是 7 次。
2 个维度交叉看,风险最高的是「时效 + 多约束」这一格。既要最近 3 个月的数据,又要分 5 点、带案例、控制字数,模型最容易拿旧数据凑格式。这一格我现在的做法是先只问事实,拿到结果再单独改格式,分 2 轮做。
每条写清楚它为什么容易出错、什么问法会触发、怎么绕开。
下表把 5 类场景压成 3 列,中间那列是诱因,右列是我实际遇到时的识别信号。
| 场景 | 诱因 | 识别信号 |
|---|---|---|
| 具体数字 | 语料数字跨年份、跨口径 | 数字过于整齐,如 5000、12000 |
| 近期事件 | 训练截止时间早于事件 | 回答里出现「截至目前」却没日期 |
| 小众实体 | 语料提及少于 5 条 | 实体名与提问写法不一致 |
| 要求出处 | 模型无检索能力时必须凑格式 | 出处格式统一得反常 |
| 多约束 | 格式压力挤占事实核对 | 案例细节含糊,只有结论 |
第 1 行的信号最好用。真实统计数据很少刚好是整数,出现 5000、12000 这类整齐数字,先去核 1 遍。第 4 行的信号也明显:真实文献的引用格式五花八门,10 条出处格式完全一致的,多半是编的。
还有 1 个通用信号:答案里出现「据某机构统计」却不说机构全称与年份。这类表述在实测中命中率很高,10 条里有 6 条查不到出处。看到这种句式,直接把该段标为待核,别顺着读下去。
第 1 个做法是限定范围。提问时写明「只回答 2024 年之前的内容」「只谈你确定的部分,不确定的直接说不确定」。后一句很管用,加了这句,编造比例能降一半。
第 2 个做法是要结构不要结论。让它先列「已知事实」「推断」「不确定」3 栏,再写答案。3 栏分开写,模型会把边界标出来,读的人一眼能看出哪段不能直接用。
第 3 个做法是反向提问。同一个问题换 2 种问法各问 1 次,两次答案在关键数字上不一致,说明这块知识它不稳。这个方法不用查资料,1 分钟能做完,我日常用得最多。
第 4 个做法是把答案分块验收。长答案拆成 5 到 8 个短句,逐句问「这句有出处吗」,比整段判断准。整段判断时人容易被通顺的行文带过去,拆成短句后,编造的那 2 到 3 句会自己暴露出来。
模型的训练目标是接续文本,真伪判断不在它的任务里。给定半个句子,它会补出最像的下文,缺依据时也照补。生成机制决定了它不会主动停下来,靠「请如实回答」这类指令压不住,只能靠提问设计减少它需要编的场合。2025 年我测过 3 组指令,加不加提示词,编造率只差 1 成左右。
幻觉是从来没有过的事实,过时是曾经正确、现在变了。区分办法看时间:答案里的信息在 2 年前成立、如今已调整,属于过时;任何时间点都查不到,属于幻觉。两种处理方式不同,过时的补 1 次最新公示就能用,幻觉的整段要重写。
医疗、法律、财务 3 个领域最要紧,出错代价高,且模型给的说法往往带细节,看着可信。这 3 个领域的输出只能当线索用,具体条款、剂量、税率要回到官方渠道核。我的习惯是这 3 类问题一律查 2 个来源,不省这一步。
3 个领域里,财务类最难核。条款与税率有公开文本,一查就对;财务口径常按企业规模、行业、地区分档,同一句话在不同企业适用性不同。这类的做法是把模型输出当「问题清单」,拿它列出的项目去问会计或税务窗口,比自己查文件快。
5 类场景记 1 个口诀就够:数字、时效、小众、出处、多约束。碰到这 5 类,把答案当草稿,不当结论。核验的成本大约是重写一遍的 3 成,比自己从头写省时间,前提是圈得出可核对项。本文信息核对时间:2026-11。