DeepSeek 本地部署要多少显存：510GB 权重和三档现实路线

结论先说：24GB 和 48GB 的家用卡跑不了全量模型，连最小的量化版都放不下。能跑的是三条路——四卡服务器、SSD 流式加载、或者干脆换小模型。选哪条取决于你能接受多少速度损失。

先统一口径：552B 和 763B 都对

官方发布说明写的是 552B 参数的 MoE，Hugging Face 仓库的参数量却是 763.2B。两个数不矛盾，只是范围不同：552B 指骨干网络，另外约 196B 是 Engram 条件记忆表，加起来 763B。规划硬盘和内存时按 763B 算，讨论算力时按 552B 算。

活跃参数是另一个概念。每层 384 个路由专家里只激活 6 个，读 prompt 时约 8B 参与计算，生成时约 16B。活跃参数决定算得多快，总参数决定要占多少地方——这两个数字经常被混着引用，导致对硬件的判断偏差很大。

还有一个省内存的设计：KV 缓存压到每 token 890 字节，约等于上一代的四分之一。100 万 token 的上下文，KV 只占不到 1GB，加一个 128 token 的滑窗。长上下文在显存上的代价比想象中小，权重才是大头。

权重体积对照

官方仓库是 48 个文件、合计约 510GB，专家部分直接用 FP4 存的，所以不能用「参数量乘字节数」硬算——按 BF16 算会得出 1.5TB，与实物不符。

三条路线，各自的真实门槛

全 GPU 服务。 想把 510GB 权重完整放进显存，需要 4 张 96GB 卡这个量级，或同等显存的多卡组合。这是唯一能跑到官方吞吐的路子，成本以十万计，个人不现实。租用 4 卡节点按小时算，也比直接调 API 贵。

SSD 流式加载。 依靠「每 token 只激活少量专家」的特性，把大部分权重留在 SSD，用到哪块读哪块。128GB 内存的机器配 NVMe，第三方实测输出在 10–19 token/s 区间。这个速度能跑通流程、做离线批处理，但交互式使用会明显感到卡。前提是固态硬盘要够快，机械盘不用考虑。

换小模型。 如果你的任务本来就只需要一个会写文案、能做摘要的模型，二十多 B 级别的开源模型在一张 24GB 卡上就能跑得不错，显存换算可以对照 本地跑大模型要多少显存。这条路牺牲的是难题上的推理深度，换来的是能长期挂着跑。

量化的代价不是线性的

社区实测过 top-1 一致率：4bit 级约 98%，3bit 级约 95%，2bit 级约 92%，1.75bit 级约 83%。也就是说，2bit 不是「稍微差一点」，而是在相当一部分样本上直接换了答案。做分类、抽取这类有明确判据的任务，2bit 尚可一用；做代码修改和多步推理，错误会累积。

另外，官方权重里的专家本来就是 FP4，再压到 2bit 是在已经很低的精度上继续四舍五入，损失比常规模型更敏感。

判断顺序

先问这台机器有没有 128GB 以上内存且是固态盘，没有就直接放弃本地路线。有的话，再问任务能不能容忍十倍以上的速度差。两个都过，才轮到讨论量化到几 bit。否则调 API 更省事，也比自己攒机器便宜——真要在本地跑点东西，DeepSeek 免费部署的四条路线 里有成本更低的组合。