打开任何一个模型发布会的稿子,都有一行数字很显眼:千亿参数、万亿参数。旁边配一张柱状图,比上一代高出一截。看多了容易形成一个直觉——数字越大,模型越强。这个直觉在几年前大致成立,现在越来越靠不住。
我见过有团队选型,专门挑参数最大的那个,上线之后发现日常任务跑得又慢又贵,效果比另一个小一半的模型没强多少。参数是选型时要看的东西,但它不是排名。
模型内部是一层一层算下来的。每一层里有大量的乘法系数,这些系数就是参数。训练的过程,说白了就是拿大量文本反复试,一点点把这些系数调到合适的位置,让输出更像人写的。
参数多,意味着这套系数更密集,能记住的语料细节更多,表达组合更丰富。所以大参数模型在写长文、理解隐含语气、跨领域迁移这些事上确实有优势。这是参数的意义,不该否认。

但「能记住更多」和「用得更好」之间隔着一段路。这段路上有三个坎,参数一个都解决不了。
参数是容器,数据是内容。同样一千亿参数,用三年优质中文语料训练,和用一堆网页抓取的低质文本训练,出来的模型完全不是一回事。低质数据里错误多、重复多、逻辑断裂多,模型学到的是这些毛病的平均形态。
现在各家在数据上花的功夫比堆参数更多。清洗、去重、配比调整、合成数据补足稀缺领域,这些工作不体现在参数数字上,对实际表现的贡献却很直接。一个参数小一些但数据干净的模型,在中文本地化任务上常常打得过参数更大的对手。
举个具体的差别。同一批语料里混进大量论坛灌水、小说片段、机器翻译残留,模型学完之后写正式文书会带口语尾巴,写说明文会莫名其妙地煽情。这些毛病不是参数不够造成的,是训练素材里本来就有这些东西,模型照着学了。
反过来,语料里专业文档占比够高,模型写合同的措辞就规范,写技术说明的层次就清楚。这种能力差异在参数数字上完全看不出来,但你一用就知道。所以选型时问一句「训练数据主要是什么来源」,比问参数量更有信息量。
这是最容易被数字误导的地方。现在很多模型采用混合专家结构,总参数很大,但每次推理只调用其中一小部分。标称万亿参数,实际每次激活的可能只有几百亿。
这种结构下,总参数和计算量脱钩了。一个总参八千亿、激活八百亿的模型,和一个稠密八百亿的模型,算力消耗接近,能力也接近,但宣传口径上的数字差了十倍。拿这两个数字放在一起排名,等于把重量和载重混着比。
所以看到参数数字,先问一句是总参数还是激活参数。多数发布会只讲大的那个,这不算撒谎,但确实会让判断走偏。
同一个底座模型,经过不同的后训练,表现能差出一大截。指令微调做得好,模型更听话;偏好对齐做得好,回答更有分寸;工具调用训练到位,能查资料、能跑代码。这些能力全在训练的后半段打磨,跟参数规模没关系。
行业里有个现象:几个月后发布的「小版本」,参数没变或更小,实际体验却明显更好。原因就是训练流程、数据配比、后训练策略迭代了。用户感觉到的进步,来自工程改进,不来自参数增长。

参数可以作为初筛条件,不值得作为决策依据。真正该看的有三样。
这一步别人替不了。榜单测的是通用能力,你的任务有具体的格式要求、术语体系、判断标准。拿二十条真实的业务输入,两三个候选模型各跑一遍,按你自己定的标准打分,结论比任何榜单都可靠。
做这个小测试的成本很低,一两个小时就够。收益是避免上线后返工。我见过不止一个团队,因为省了这一步,选了名气最大的模型,上线两个月才发现格式稳定性不行,代码全推倒重写。
同样效果下,价格能差五倍。日常任务量大,价格差就是真金白银。速度也重要,需要即时响应的场景,等十秒和等两秒是完全不同的产品体验。
很多时候正确的做法不是选最强的模型,是分工:难任务用大的,日常任务用小的。一套系统里混用两三个模型,成本能压下来一半,体验几乎无损。前提是你对自己的任务有清晰分级。
参数再大,接口三天两头超时也没法用。选型时要看服务的历史稳定性、限流策略、版本更新节奏。有些厂商会静默升级模型版本,你的输出格式突然变了,排查很久才发现是底层换了。这种隐性成本比参数差异更致命。
过去两年有个明显的趋势:几十亿参数的小模型,在特定任务上开始打得过几百亿的通用模型。这件事改变了选型逻辑,值得单独说。
关键手段是蒸馏。做法是让大模型先跑大量样本,把它对每个问题的回答分布记录下来,再拿这些记录去训练小模型。小模型学的不是标准答案,是大模型面对一个问题时怎么权衡、怎么组织。学完之后,小模型在同类任务上的表现能接近老师,体积却小一个数量级。
另一个手段是任务收窄。通用模型要应付所有领域,能力被摊薄。专门做合同条款抽取的模型,训练数据全在合同上,几十亿参数就能做得又准又快。代价是它只会这一件事,换个场景就废了。
这个趋势对使用者是好消息。如果你的需求集中在少数几类任务上,一个专门调过的小模型可能比通用大模型更合适:响应快、便宜、格式稳定。判断标准还是那一条——拿你的真实任务去测,别拿参数比。
需要提醒的是,小模型的边界很硬。碰到超出训练范围的输入,它不会像大模型那样勉强给出一个八九不离十的回答,而是直接崩掉或者输出格式错乱。所以用小模型要配兜底:识别不出来的样本转给大模型处理。这套组合拳在实际系统里比单押一个模型稳得多。
因为参数是唯一能横向比较的硬数字,而且听起来足够震撼。榜单可以刷,体验是主观的,价格战打不动,只有参数是干干净净的一个数,适合放在发布会大屏上。
这不全是营销需要。参数规模确实反映了一家公司的工程能力:能把万亿参数的模型训起来、跑得稳、成本可控,背后是集群、通信、调度一整套能力。只是这个能力和终端用户感受到的「聪明」之间,链条太长,中间变量太多。
作为用户,理解这一点就够了。把参数当成厂商的技术实力参考,别当成产品能力的排名。
模型参数有点像汽车的发动机排量。排量大通常动力强,但一辆车好不好开,还取决于变速箱、底盘、重量分配、轮胎。只看排量买车的人,往往开回家才发现不合适。
你真正该问的问题不是「这个模型多少参数」,是「它在我这类任务上,比我手上这个强多少,贵多少,快多少」。这三个问题有答案,选型就有依据;没有答案,参数看再多也是猜。
