个人学习小站 SIGNAL DESK 2026
LIVE --:--:-- 投稿 账号
资讯 人工智能 GLM-5 技术报告与模型卡、公开报道,核对于 2026-11

GLM-5 的 744B 参数:MoE、200K 上下文与许可

GLM-5 是 744B 总参数、约 40B 激活的 MoE 模型,200K 上下文,MIT 许可。参数不直接决定体验,激活量和上下文才决定成本结构,这篇逐个数字拆。

2026年11月13日 6 小时前 作者 站长 约 3 分钟 0 阅读

744B 是显存数字,40B 是算力数字,这两个数不能混着理解。一个 744B 的 MoE 模型跑起来要装下全部权重,但每个 token 只走其中约 40B 的路径,所以它既贵又便宜——贵在硬件门槛,便宜在单次推理。

规格先放一张表

项目GLM-5(2026-02-11)
总参数 / 激活参数744B / 约 40B
架构MoE,256 个路由专家,每 token 激活 8 个,80 层
上下文200K token
预训练语料约 28.5 万亿 token
许可MIT,可商用、可改、可闭源分发
API 价格每百万 token 输入 1.00 美元、输出 3.20 美元

同期公开的厂商口径里,GLM-5 在 SWE-bench Verified 上 77.8%,AIME 2026 上 92.7%,GPQA Diamond 上 86.0%。这些都是厂商自报,不是第三方复现,看趋势可以,当排名用不行。表内单价按 2026 年 11 月的开放平台牌价核对。

744B 与 40B:显存按大的买,账单按小的算

MoE 的核心是把"知识容量"和"单次计算量"解耦。256 个专家里每次只用 8 个,等于用 40B 的算力去调 744B 的知识库。这就是为什么它能在输出速度上接近中型稠密模型,却在显存占用上对标旗舰。

对自部署的人,这个区别是决定性的:FP8 权重需要多卡才装得下,普通工作站跑不动;对调 API 的人,区别只体现在单价上,40B 激活意味着同样的输出长度不会因为 744B 而翻倍计费。想估算本地门槛,可以用本地跑大模型要多少显存里的算法,把总参数填进去,别填激活参数。

200K 到 1M:哪一代才够用

GLM-5 的 200K 在当时是够用的,一份几百页的 PDF、一个中等规模的代码仓库都在范围内。但 GLM-5.1 之后路线变了:GLM-5.2 把上下文扩到 1M,最大输出 131,072 token,并引入 IndexShare——每四层共享一个轻量索引器,官方称在 1M 长度下把每 token 的算力开销降到原来的约三分之一。

GLM-5.3 沿用 5.2 的底座做后训练,上下文仍为 1M,输出上限不变,这也是它能在两个月内迭代出来的原因。这条演进顺序值得记住:5 是打地基,5.1 练耐力,5.2 扩窗口,5.3 靠后训练拔能力。判断一个任务该用哪代,看上下文需求比看版本号更有效。

"全国产卡训练"这句话要打折扣

这是本文最需要谨慎的一段,因为公开信息本身不一致。

智谱的 GLM-5 技术报告写的是:模型从第一天起就针对七家国产芯片平台做了全栈适配,包括华为昇腾、摩尔线程、海光、寒武纪、昆仑芯、沐曦、燧原。但报告没有明确写"训练用了哪种卡"。

发布时的大量报道走得更远,直接说 GLM-5 全程在昇腾 910B 上用 MindSpore 训练、零 NVIDIA 依赖。这个说法流传很广,却缺少技术报告里的直接对应句。

比较稳妥的表述是:GLM-5 完成了对多家国产芯片平台的适配,推理侧已有规模化落地;"训练全程只用昇腾"属于媒体口径,官方文档未见同等明确的表述。这不影响模型能力判断,但如果你的决策依赖"供应链完全去 NVIDIA"这个前提,就该把这条当成待核实项,而不是既成事实。

MIT 的实际含义,以及它和 5.3 的差别

GLM-5 是标准 MIT:保留版权声明即可商用、修改、再分发,甚至可以闭源。这在国产旗舰里属于最宽松的一档。

但同一家族内部并不统一。GLM-5.3 旗舰改用自定义的 GLM-5.3 License,多了一条——过去十二个月集团年收入超过 100 亿美元、且经营模型即服务业务的公司,商用前需通过智谱的安全审查。GLM-5.3-Flash 又回到 MIT,没有这条限制。

同一代模型、相隔两周发布的两个 checkpoint,许可条款不同。要自部署,先看你要下的那个权重文件挂的是哪个许可,别拿兄弟版本的条款套。

该看哪个数字

选型时只问三件事:上下文够不够(200K 还是 1M)、许可能不能过法务(MIT 还是带审查条款)、显存装不装得下(744B 还是 320B 的 Flash)。参数量本身不是答案,它只是这三个问题的输入之一。财务层面的背景,比如 MaaS 收入已经占到总收入八成以上,可以看智谱 40 亿回购那篇的拆解。

登录后可点赞、收藏与反馈。

继续阅读 NEXT

更多 →