DeepSeek 大模型训练分几步，6 个阶段与每步产出

大模型训练走 6 个阶段：语料清洗、分词与打包、预训练、监督微调、偏好对齐、评测上线。一条千亿参数级别的模型全流程 3 到 6 个月，其中预训练吃掉 8 成以上算力，最后 2 个阶段决定它好不好用。

2025 年我跟过 1 个 7B 参数的小模型复现，8 张卡跑了 11 天，光数据清洗就占掉 4 天。那次最深的印象是：卡住的地方全在数据侧，训练脚本反而没出过 1 次错。下面按「谁来做、要备什么、6 步怎么走、卡在哪、怎么验」写，数字都是复现时实测的量级。

一、什么条件才跑得动这条链路

4 个条件缺 1 个都会中途停。千亿参数级别的模型，单是预训练就要上千张加速卡连续跑 2 个月上下，这个量级散户和小团队碰不到；7B 到 14B 的规模，8 到 32 张卡能起步。

1. 算力：7B 模型预训练至少 8 张 80G 显存卡，千亿级要千卡集群
2. 语料：清洗后的中文有效文本按 TB 计，7B 模型常见 1 到 2 TB
3. 人力：算法 2 到 3 人、数据 3 到 5 人、工程 1 到 2 人，缺数据人手最致命
4. 评测集：自己业务场景的 300 到 1000 条人工标注题，没有这套题无法判断好坏

第 4 条最容易被省，省掉的代价在后面。没有自建评测集，模型每轮迭代只能看公开榜单，榜单涨了业务效果可能原地不动，连回退到哪一版都说不清。

二、开跑前要备齐的 5 样东西

下表 5 行是开工清单。第 3 列写的是验收口径，备料时按这一列对，别按文件名对。

三、6 个阶段怎么走

6 步是串行的，前 3 步做模型的底子，后 3 步调它的脾气。每步都写了产出物，产出物没成形就别往下走，回头补的成本翻倍。

步骤 1 到 3：从语料到基座

1. 语料清洗：去重、去模板化、过滤低质页。7B 模型这步 3 到 5 人做 1 到 2 周，产出 1 个带质量分的语料库
2. 分词与打包：把文本切成 token，按 4096 或 8192 长度打包成训练块，产出 1 套二进制训练文件
3. 预训练：按下一个词预测的目标跑多轮，千亿级跑 2 个月，7B 跑 7 到 15 天，产出基座权重和 loss 曲线

第 3 步看曲线有 2 个硬指标：loss 平稳下降，中途不出现连续 3 次跳高。跳高基本是数据里混进了重复块或坏样本，停下来回查数据比继续跑更省算力。DeepSeek 公开的技术报告里提到，V3 用的是混合专家结构，总参数 6710 亿、每次激活 370 亿，这套结构让训练和推理的算力开销都降下来。

步骤 4 到 5：从基座到能对话

监督微调是把基座变成会听话的模型。1 万条高质量问答对的效果，往往好过 10 万条凑数的数据，我那次复现用了 2.4 万条，筛掉 6000 多条重复表述后重新跑，同一套评测题的正确率从 61% 提到 68%。偏好对齐接在后面，用人工标注的好坏配对教它取舍，公开做法有基于人类反馈的强化学习，也有直接做偏好优化，后者工程上简单得多。

推理类模型还多 1 步：用强化学习让模型自己试错，练出长链推理。DeepSeek 的 R1 就是这么做的，公开的评测里数学与代码类题目的提升很明显。这一步的训练不稳定，奖励设计稍有偏差，模型会学会写很长的思考过程但结论照错。

步骤 6：评测与上线

评测要跑 3 套：公开基准、自建业务题、人工盲评。3 套结果不一致时按业务题的结果判，公开基准只用来对外说明。上线前还要压 1 轮并发，把每千 token 的响应时间和显存占用记下来，这两个数决定后面对外承诺的容量。

四、卡在哪：6 个真实故障

下面 6 条按出现频率排，每条写「现象、原因、怎么解」。前 3 条我在复现里都撞过。

1. loss 降到某个值后不动：学习率偏高或数据同质化，把学习率降 30% 并掺入 10% 的新语料
2. 训练跑到第 3 天报显存溢出：批次大小与序列长度叠加超限，把序列长度从 8192 降到 4096 再续训
3. 模型只会复述开头：微调数据里答案普遍很短，补齐 30% 的长答案样本
4. 对齐之后变得啰嗦：偏好数据把「更长」当成了「更好」，标注时先统一长度区间
5. 评测分数涨但用户投诉多：评测题与真实问法分布不一致，从工单里补 200 条真实问法
6. 断点续训后指标掉了 5 个点：优化器状态没存全，检查点要连优化器和学习率调度一起存

第 6 条最隐蔽。只存权重不存优化器状态，续训相当于换了 1 次初始化，表面能跑通，指标会悄悄往下掉，跑 2 天后才发现就已经浪费了几十张卡的机时。

算力预算按 3 段拆：预训练 70%、微调与对齐 20%、试错重跑 10%。第 3 段最容易被省掉，实际跑起来重跑 2 到 3 次很常见，不留余量就得中途停机，等资源的时间常常超过 3 天。

五、跑完怎么核验

3 个动作，1 天内能做完。核验不通过就别急着对外发布，回退到上一版比带病上线便宜。

1. 用 100 条业务题盲测，让不参与训练的人打分，记录通过率与错例类型
2. 抽 20 条错例逐条看，判断错在知识缺失、指令不跟、还是表达啰嗦
3. 同一批题跑 2 次，看答案稳定性，同一问题给出互相矛盾的答案说明采样温度过高

评测题怎么出

题要出自真实场景，不从公开题库里抄。做法是从客服工单、销售问答、售后记录里各抽 100 条，去掉重复表述后保留 300 条，每条写 1 个标准答案或 1 套评分细则。评分细则分 3 档就够：答对、部分对、答错，档位太多标注员之间对不齐，一致性会掉到 6 成以下。

标注一致性靠交叉复核保证。同一批 100 条题让 2 个人各标 1 遍，两人结果不一致的比例超过 15%，说明题目本身写得含糊，先改题再标注。我那次复现重写了 70 多条题，前后返工 2 轮，第 3 轮两人一致率到了 92%，评测结果才开始有参考价值。

第 2 个动作决定下一步往哪修。知识缺失要补语料，指令不跟要补微调数据，表达啰嗦要重做偏好标注，3 类问题的修法完全不同，混在一起改会白跑 1 轮。

回退前先留 1 份当前版本的权重与配置，回退后再验证 1 次，确认指标回到上 1 版水平。没留副本就回退，等于又跑 1 轮训练，成本是留副本的 2 倍以上。

训练链路的细节各框架差别很大，参数名和默认值按你用的框架文档对。算力价格、显存占用这些数按实测记，别照抄别人的配置单。

本文信息核对时间：2026-11