deepseek大模型训练流程有哪些步骤?一段一段拆开看

大模型训练分三段：预训练、后训练、评测上线。预训练吃算力和语料，后训练把模型调得听话，评测决定这一版能不能发。三段的公开程度差很多，能查到的细节主要在第 1 段。

DeepSeek 在 2024 年底公开的技术报告里给了几个可核的数字：预训练用了 14.8 万亿 token，训练算力约 278.8 万卡时的 H800，模型总参数 6710 亿、每次推理激活 370 亿。后训练与数据配比只写了方法名，没给全量数据。

我按这份报告和另 2 家的公开材料对比过 3 遍，能落地的流程是同一套骨架，差异集中在语料来源和强化学习的奖励设计上。下面按顺序拆开讲。

一套训练流程需要哪些条件

先看门槛。少任何 1 项，流程会停在中途，不是钱能立刻补上的。

1. 语料：万亿级 token 起步，中英文比例、代码与数学占比直接影响能力分布，清洗环节要滤掉重复与低质页。
2. 算力：千卡级集群是入场线，卡间通信带宽不够时，训练效率会掉到 3 成以下。
3. 工程团队：负责并行策略、断点续训、故障恢复，千卡集群日均故障 1 到 2 次属于常态。
4. 评测集：自建 500 到 2000 道题的内部测试集，覆盖你要用的场景，公开榜单只能当参考。

第 2 项最容易被低估。卡买到手只是开始，集群跑起来之后，训练中断、显存溢出、梯度异常这些事每周都要处理，工程投入常占整个项目的 4 成。

第 4 项决定你能不能说清「这一版比上一版好在哪」。我见过 1 个团队训了 3 轮，每次都说效果变好，问了半天拿不出 1 组可比的分数，最后只能凭感觉上线。

三个阶段各要准备什么

表里 5 行不是每家都做全。只做第 1 行加第 5 行的团队也有，出来的模型能接 API 但不太听话，放进业务系统里需要在外层加大量格式约束。

按顺序走这五步

第 1 步 语料清洗与配比

抓来的网页先做去重，再按语言、质量、领域打标签，最后定配比。中文、英文、代码、数学各占多少，直接决定模型偏科在哪。这一步通常占整个数据工作的 6 成以上时间。

清洗规则要留版本。同一批原始数据用 2 套规则处理，出来的 token 数能差 20%，回溯问题时没有版本就说不清差异从哪来。

第 2 步 预训练

在千卡集群上跑 next-token 预测，把语料喂进去调整权重。中途要做多次断点保存，间隔按 30 到 60 分钟设，故障恢复时从最近一次续上，能少丢几小时算力。

这一步的算力开销占全流程 8 成以上。DeepSeek 公开的 278.8 万卡时基本都花在这里，后训练只占很小一块。

第 3 步 指令微调

用几万条高质量的问答对，教模型按人类习惯回答。数据质量比数量重要，1 万条精标数据的效果常好过 10 万条网络抓取的问答。

微调阶段的学习率要比预训练小 1 到 2 个数量级。调大了会把基座能力冲掉，表现为模型只会背训练集里的句式，换个问法就答非所问。

第 4 步 偏好对齐

给同一问题准备 2 个回答，标出人更喜欢哪个，用这批偏好数据继续训练。规则可以用人工标注，也可以用可验证的判分程序，数学题看答案对不对就属于后一种。

奖励设计是这一步的难点。只奖励格式会让模型学会堆小标题，只奖励长度会得到又臭又长的答案，2 个指标要同时约束。

第 5 步 评测与灰度

拿内部题集跑分，再看公开榜单，两边都要看。内部题集反映你的场景，公开榜单反映外部可比性，只信一边容易翻车。

卡在哪

1. 现象是训练损失突然上跳。原因多为数据里有异常样本或学习率过高。处理办法是从最近 1 次断点回滚，剔除那批数据再跑。
2. 现象是模型答得越来越长。原因是奖励偏向长度或格式。处理办法是加入长度惩罚项，用 500 条样本重测。
3. 现象是某个能力突然消失。原因是微调数据分布太窄，把基座能力覆盖了。处理办法是掺入 10% 到 20% 的通用数据。
4. 现象是显存溢出频繁。原因是序列长度或并行切分不合理。处理办法是缩短单条样本长度，调整切分策略。
5. 现象是评测分数上不去。原因是题集与训练数据重叠。处理办法是重做 300 道未见过的新题，重新测 1 遍。

第 3 条最难发现。模型在自己的题集上分数还在涨，实际用起来却忘掉了基础能力，这类退化只能靠跨领域的 200 道抽样题兜住。

怎么判断这一版能不能用

看 3 组数据，不看单一分数。

1. 新旧版本同一题集的分数差，差距小于 1 个百分点时，按业务体感决定，不必迷信小数。
2. 格式合规率：抽 200 条输出，看有多少条符合你要的结构，低于 9 成就要回去补指令数据。
3. 拒答与错答比例：分开统计。该拒答却硬答的比例高，说明对齐偏松；该答却拒的比例高，说明规则太严。

上线前留 1 个开关：把 5% 到 10% 的流量切到新版本，观察 3 天再全量。出问题时 1 次切回旧版本，比事后修数据快得多。

想省钱可以换个走法

多数企业不必从零训一套基座。拿开源权重做微调，2 周到 1 个月能拿到可用版本，成本差好几个量级。

1. 选基座：按参数量选，7B 到 14B 适合单机多卡，70B 以上要 8 卡以上集群，先看手上的机器。
2. 备数据：3000 到 2 万条高质量问答对起步，覆盖你的业务问法，条数不如覆盖面重要。
3. 跑微调：LoRA 这类参数高效做法在单张 80G 卡上可跑，1 万条数据通常 6 到 12 小时出结果。
4. 做评测：拿 200 道未见过的业务题测，和基座模型对比，涨分超过 5 个百分点才算有效。

第 2 条决定上限。我见过 1 个团队用 5000 条标注数据，把模型在自家业务问法上的准确率从 6 成提到 8 成半，基座用的是公开权重，训练只花了 1 天多。

这条路的限制在能力天花板。基座没有的能力，微调补不出来，只能靠检索增强把外部资料喂进去，或者换更大的基座。

把流程压缩成一句话：语料定上限，算力定速度，后训练定听话程度，评测定能不能发。4 件事里任何 1 件缺位，模型都能训出来，但用起来会缺一角。

自己从头训一套的成本，按 2025 年的公开报价估，千卡跑 1 个月的电费与机时就是千万元级别。企业预算有限时，把 7 成投入放在数据与评测上，3 成放在训练上，比反过来划算。

本文信息核对时间：2026-11