AI 为什么会有偏见？来源和减轻办法

偏见的来源主要有三处。

训练数据本身。它读的是互联网上的内容，而这些内容里带着长期形成的刻板印象。模型学的是统计规律，规律里有偏差，输出就有偏差。

标注和反馈环节。训练时有人给回答打分，打分者的偏好会渗进模型。这个环节的偏差最隐蔽，因为它不在原始数据里。

提问方式。同一个问题换个说法，回答可能完全不同。提法里带着预设，模型往往顺着预设走。

能不能改？可以减轻，不能根除。减轻的做法包括清洗数据、调整训练目标、在输出阶段做约束。但只要训练数据来自现实世界，某种程度的偏差就会留着。

实用做法是：在敏感场景里加人工复核，别让模型单独决定涉及人群判断的事。

我做过一个内容审核的小项目，碰到过具体的例子。

让它改写一段招聘描述，原文已经去掉了性别指向，它改完又加回去了——「有责任心的小伙子」这种。问它为什么，它说这类岗位的常见表述就是这样。

解决办法不是反复纠正提示词，那治标不治本。我们是在流程里加了一步：生成完之后过一遍关键词检查，命中就退回重写。这样稳定得多。

还有一类是地域、年龄的刻板印象，出现在案例描述里。这类更难通过关键词拦住，只能靠人工读。

体会是：指望模型自己中立不现实，工程上要设计「拦截」环节，而不是依赖它的自觉。

拦截的成本比想象中低。一份几十个词的检查清单，加上一次人工过目，就能挡掉大半问题。真正难的是没人愿意做这一步，因为它不产出、只防错。

几个实际会碰到的表现。

职业与性别绑定。护士、幼师默认女性，工程师、司机默认男性。中文里还会带「女司机」这类标签。

年龄预设。提到学习新技能，默认对象是年轻人；提到保守，默认是年长者。

地域标签。某些地区被关联上特定印象，写案例时不知不觉用进去。

提问方式诱导。你问「为什么某某群体会怎样」，它顺着你的前提回答，而不是先质疑前提是否成立。

越界回答。涉及人群能力对比的问题，它本来应该拒答或者说明无法判断，但有时会给一个听起来客观的结论。

这些在对外内容里都要过一遍，尤其是招聘、招生、宣传类材料。