个人学习小站 SIGNAL DESK 2026
LIVE --:--:-- 投稿 账号
资讯 人工智能 美团官方公告、上海证券报

LongCat-2.5:万亿参数模型如何在国产算力上跑通

11 月 2 日美团发布的 LongCat-2.5 有 1.6 万亿参数,训练全程使用国产算力。三个工程细节决定了它可行:1M 序列训练、W4A4 量化与超节点通信优化。

2026年11月9日 3 天前 作者 站长 约 2 分钟 6 阅读

11 月 2 日,美团发布 LongCat-2.5:1.6 万亿总参数、每 token 激活约 480 亿、原生多模态,训练全程在国产算力上完成。官方把它称为「国产算力上最大规模训练任务」。参数规模和跑分只是结论,真正值得看的是它怎么在单卡显存更小、互联带宽更低的条件下把训练跑完。

一、三个绕不开的工程约束

国产算力的现实条件与主流方案不同:单卡显存偏小,卡间互联带宽有限。这带来三个直接约束。

第一,长序列放不下。LongCat-2.5 在中训练阶段使用最长达 1M token 的序列,累计训练量达数万亿 token。单卡放不下这么长的激活,必须切分到多卡并频繁通信。

第二,推理显存吃紧。480 亿激活参数按 16 位存也要近百 GB,再叠加 KV Cache,单卡压力很大。

第三,通信容易成为瓶颈。多卡协同时,如果参数与数据的通信大量走跨机流量,算力利用率会被带宽拖住。

二、对应的三个解法

超节点优先。 美团的做法是围绕超节点重新划分任务,让参数与任务数据的主要通信在节点内的高速互联中完成,跨机流量压到必要范围内。这本质上是把通信拓扑当成设计输入,而不是事后调优。

W4A4 量化。 推理阶段把专家权重和激活同时压到 4 比特,并按国产加速器的硬件特性优化计算与传输。权重与激活都量化,比常见的仅权重量化更激进,收益是显存与带宽占用同时下降。

长上下文训练优化。 官方技术博客给出的数字是:在长上下文监督微调任务上,优化后的单卡训练吞吐比 DDP 基线提升 86%,折算下来相当于一张卡干原来 1.86 张卡的活。

三、这条路线的边界

先说清楚它证明了什么:在国产算力上训练万亿级 MoE 是可行的,且不是靠降低模型规模换来的。

再说清楚它没证明什么。官方评测口径是「多项主流基准介于 Claude Opus 4.8 与 Opus 5 之间,部分超过 Opus 5」,这是厂商自评,缺少第三方复现。在 SuperCLUE 11 月榜上,LongCat-2.5-Preview 总分 39.59,与第一梯队仍有距离——当然那是 Preview 版本,且测评口径与时点不同。

更实际的判断方式是看它服务谁。美团把 LongCat 系列接到「妙手」经营工作台上,服务古茗、益禾堂等连锁品牌,做渠道利润表、库存风险这类分析。这个定位说明它不打算做通用最强模型,而是做「能进业务流程的模型」。对一个有真实业务场景的公司,这个选择比刷榜更站得住。

对开发者而言,可复用的是那套工程方法:把通信拓扑当设计输入、权重与激活同时量化、按硬件特性调优传输。这三条不依赖具体厂商,换成别的国产卡同样适用。

登录后可点赞、收藏与反馈。

继续阅读 NEXT

更多 →