文心 5.0 的 2.4 万亿参数：激活比例比总数更重要

2.4 万亿是总参数，不是每次调用都要跑一遍的量。真正决定推理成本的是激活参数——按官方给出的「低于 3%」算，单次大约唤醒 720 亿。这个数字才是你该拿去和别人比的。文心 5.0 正式版在 2026 年 1 月 22 日上线，下面把这三个概念拆开。

总参数、激活参数、稀疏度

总参数是模型里所有可训练权重的总量，2.4 万亿这个数字指的就是它。它代表模型的容量上限，也决定训练要烧多少钱、权重文件有多大。

激活参数是单次前向计算中真正参与运算的那部分。文心 5.0 采用超稀疏 MoE 结构，官方口径是激活参数比低于 3%，换算下来不超过 720 亿。

稀疏度就是这两者的比值。稀疏度越高，同样的总算力下能塞进更多知识，但路由（决定哪个 token 走哪些专家）的难度也越大，训不好会出现专家吃不饱、能力不均匀的问题。

拿这个框架看同行才有意义。一个 2.4 万亿总参、3% 激活的模型，推理开销大致相当于一个 700 亿量级的稠密模型，但知识面按 2.4 万亿算。所以「参数大所以慢、所以贵」这个直觉在这里不成立。

原生全模态和拼接式，差在哪

两种做法的区别在训练阶段，不在产品界面。

百度在发布稿里给了一个具体例子：输入一段复刻某 App 的教程视频，模型能拆解操作步骤、理解交互逻辑，直接产出可运行的前端代码。这种任务要求「看懂动作顺序」再「翻译成代码」，跨模态的信息不能在中间断掉，拼接式方案在这一步通常要外挂一个规划模块。

不过要提醒一句：官方演示是官方挑过的任务，不等于你的场景也能跑通。原生架构解决的是「信息不丢」，不解决「你的行业知识它有没有」。

对普通用户意味着什么

三件事会直接受影响。

第一，传文件更省事。以前要先把 PDF 转文字、图片单独 OCR，现在可以直接把带图带表的文档丢进去。文心的 AI 阅读支持一次传多个文件，就是建立在这个能力上的。

第二，视频类任务从「不能做」变成「能做但不稳」。5.0 支持视频输入，官方演示里的教程视频转代码属于高难度样例，日常用更现实的是「看一段会议录屏，整理待办」。

第三，价格和参数不挂钩。你付的钱按 token 算，跟 2.4 万亿没关系。千帆的实际报价见 11 月大模型 API 价格表，同档模型之间的差异主要来自输入输出定价策略，不是参数量。

为什么 5.1 反而把参数砍到三分之一

文心 5.1 在 2026 年 5 月 9 日发布，总参数压到 5.0 的约三分之一，激活参数减半到约 360 亿，官方称预训练成本只有业界同规模模型的 6%。

做法叫「多维弹性预训练」：训练 5.0 的时候，同时优化了一批不同深度、不同专家数量的子模型，5.1 是从这个子模型矩阵里挑出最优结构，再做后训练补齐能力。等于不重新炼一炉，从已有的炉子里取一块最合适的。

这个路线的意义不在于「更小所以更便宜」，而在于迭代速度。半年内从 5.0 到 5.1，靠的是复用而不是重训。代价是能力上限受 5.0 的预训练资产约束，想再上一个台阶仍然要动基础模型。

官方称 5.1 在 LMArena 搜索榜拿到 1223 分、国内第一全球第四；5.0 正式版此前在文本榜排到全球第八，官方口径是「国内第一」。两个榜不是一回事，分数不能直接比大小，这个细节在转述里经常被抹掉。

看参数的正确姿势

先问总参数，再问激活比例，最后问上下文长度。三个数字凑齐，才能估出「这个模型跑我的任务要多少钱、能装多少材料」。

只有第一个数字的发布稿，基本可以当作宣传看。想横向比较具体能力，文心 5.5 Flash 的基准表现里有分项分数，比参数更有参考价值。