#低延迟

面壁 MiniCPM-V 4.7：35B 模型如何跑进手机 3GB 内存

35B 参数、4bit 量化后权重约 17.5GB，12GB 手机留给模型的可用内存只有约 8GB。面壁 MiniCPM-V 4.7 把专家权重放到闪存，用 LES 前瞻调度预读，把读取时间藏进计算，同一台 iPhone 上从 3.38 提到 20.51 token/s。本文拆解这套工程方案的边界。