个人学习小站 SIGNAL DESK 2026
LIVE --:--:--
资讯 人工智能 Intel Arc Pro B60/B70 规格页、Project Battlematrix、vLLM 博客

Arc Pro B60 24G 多卡:四卡方案的账怎么算

四张 B60 是 96GB 显存,价格约等于一张 RTX 5090 的一半,但多卡补的是容量不是速度。按官方规格与可查实测,拆开带宽、并行方式、功耗与故障域,给出「什么规模才值得上多卡」的判断线。

2026年11月18日 13 小时前 作者 站长 约 12 分钟 5 阅读

四张 Arc Pro B60 叠起来是 96GB 显存,按 2026 年 11 月的渠道价折算,总价大约只相当于一张 RTX 5090 的一半。这个对比很抓人,但它回答的是「买不买得起」,不是「该不该买」。多卡真正的门槛不在钱,在于你要跑的东西能不能被切开、切开之后还跑不跑得动。

先说结论。四卡 B60 只对三类人成立:模型权重本身就超过 40GB、单卡放不下;需要同时驻留两三个模型对外服务;或者需要几十路并发而不在乎单路速度。

如果你的目标模型 32GB 单卡能装下,四卡带来的收益远小于它带来的复杂度——更多功耗、更多 PCIe 通道要求、更容易踩的并行调试坑。

先把规格和同期价格摆齐

B60 是 2025 年 Q2 上市的 Xe2 工作站卡,官方规格页上的关键数字如下,和后来 2026 年 Q1 的 B70 放在一起看,能看清 Intel 自己的产品梯度。

项目Arc Pro B60Arc Pro B70RTX 5090(参照)二手 RTX 3090(参照)
显存24GB GDDR632GB GDDR632GB GDDR724GB GDDR6X
位宽 / 带宽192-bit / 456 GB/s256-bit / 608 GB/s512-bit / 1792 GB/s384-bit / 936 GB/s
Xe-core / XMX20 / 16032 / 256——
INT8 峰值197 TOPS367 TOPS——
板卡功耗200W(120–200W)230W(160–290W)575W350W
总线PCIe 5.0 x16(x8 电气)PCIe 5.0 x16PCIe 5.0 x16PCIe 4.0 x16
ECC规格页未列支持不支持不支持
2026-11 价格量级约 700–1000 美元949 美元(MSRP)约 6900 美元(街价)约 1350–1800 美元

三点需要单独指出。

第一,B60 的「x16 插槽、x8 电气」是硬约束。卡上只有 8 条通道,插在 x16 槽里也只跑 x8。四张卡就是 32 条 PCIe 5.0 通道,加上 NVMe 和网卡,消费级平台(CPU 直连通道通常在 20 条上下)根本不够,必须上 Xeon、Threadripper 或带 PCIe 交换芯片的平台。Intel 的 Project Battlematrix 参考配置用的正是工作站级 Xeon 平台,这不是营销选择,是电气决定的。

第二,ECC。B70 的规格页写了 ECC 支持,B60 的规格页没有这一项。长时间跑推理服务,显存位翻转导致输出异常是真实存在的一类故障,需要这个特性就只能选 B70 或更高。

第三,价格处在异常区间。2026 年的内存涨价把消费卡推到了历史高位:RTX 5090 首发 1999 美元,11 月的街价被追踪到 6900 美元上下。

B60 反而因为定位专业、渠道分散,还留在接近 MSRP 的位置。这个价差是当下四卡方案成立的主要理由,也是最不稳定的变量——一旦显存价格回落,整个算术要重做。

96GB 到底能装下什么

权重占用有个粗略公式:参数量 × 每参数字节数。Q4 大约 0.55–0.6 字节/参数,Q8 约 1.05,FP16 是 2。剩下的显存留给 KV cache 和框架开销。按参数档位逐级估算的方法,显存对照表里有更细的分档。

KV cache 按 Llama-3-70B 这类 GQA 结构估算,每 1K token 大约 0.3GB;32K 上下文就要 10GB 左右。这是估算值,具体取决于层数、KV 头数和是否开 KV 量化。

目标模型权重(量化)建议卡数说明
32B dense,Q4约 19GB1 张24GB 单卡可跑,不需要多卡
70B dense,Q4约 40GB2 张两张卡留出的 KV 空间比四张紧张,长上下文要算
120B MoE,MXFP466GB 以上4 张四卡是能跑起来的最低配置
150B 级—8 张(192GB)Intel 官方对 Battlematrix 的说法

最后一行来自 Intel 自己的表述:8 卡 B60、192GB 显存,可运行「最高 1500 亿参数」的中等规模模型。注意这是容量上限的表述,没有给吞吐和上下文条件。

同一批材料里还有一句「四卡互联可支持 50 余位用户同时访问」——同样没有测试条件,只能当量级参考,不能当容量规划依据。

120B 那一行来自国内一次四卡 B60 工作站评测(长城世恒 X-AIGC,MXFP4,单批上限 8192 token,最大上下文 3000)。它给出的结论是四卡是这套模型能跑起来的最低配置,权重就占 66GB 以上,剩下不到 30GB 要分给 KV 和框架。

真正卡人的往往不是权重,是并发。每路请求都要占一段 KV cache,32 路并发、8K 上下文,KV 就能吃掉几十 GB。四卡的意义在这里比在「跑大模型」上更明显。

卡间互联:没有 NVLink,而且 all-reduce 可能走 TCP

B60 之间没有 NVLink,只有 PCIe。Battlematrix 的资料里提到 PCIe P2P 传输,但这是整套软件栈配合下的能力,不是插上卡就自动生效。

更直接的证据在实测层面。Intel 自己的 gpu-ai-skills 文档里记录了一段很具体的排查:在 2 张 Arc Pro B70 上跑 SGLang 的 --tp 2,服务器能正常起来、/v1/models 也能返回,但第一个推理请求永远不返回。

根因不是显卡,也不是驱动:容器镜像里 libfabric 的共享内存 provider 不可用(fi_info -p shm 返回无数据),oneCCL 退到 TCP,然后 libfabric 挑了一张 Docker 网桥当网卡,rank 之间的通信根本没建立起来。加上 FI_TCP_IFACE=lo 之后恢复正常。

同一份文档给了对照数据:TP=2、8×64 token 的请求,走 loopback 是 1524ms,走真实网卡是 1655ms。也就是说,这个场景下的集合通信开销是以「百毫秒」计的,而请求本身只有 8×64 个 token。这不是 PCIe 带宽的极限问题,是通信路径压根没走到 P2P 上。

对四卡方案的直接含义:张量并行在 Intel 平台上,收益比在 NVLink 机器上小得多,调试成本高得多。官方 CI 的态度也能佐证——XPU 的 nightly 测试里,Llama-3.1-8B 只跑 TP=2,因为 TP=4 会在首个 prefill 批次把 Level Zero 驱动卡死;四个 MoE 模型才跑 TP=4。

还有一层容易被忽略的成本:故障域。TP 是一个进程组,任何一张卡掉线、驱动重置或显存耗尽,整个引擎一起崩,重启时间以分钟计——同一份文档里,vLLM 的 TP=2 从启动到 ready 用了 142 秒。

按模型分卡则相反,一张卡出事只影响一个模型,其余继续服务。做长期在线的服务,这个差别比几帧吞吐重要。

两种并行:切模型,还是切卡

多卡有两条完全不同的用法,选错了会白折腾。

用法机制适合代价
张量并行(TP)每层的权重矩阵按维度切开,每步都要 all-reduce单个模型装不下,且延迟要求不高通信开销大;Intel 上还有驱动卡死的已知问题
按模型分卡每个模型独占一到多张卡,互不通信同时服务多个模型、多类任务显存不能共享,利用率看调度
流水并行(层切)按层分段,卡间只传激活值llama.cpp 的默认多卡方式同一时刻只有一张卡在算,吞吐上不去

llama.cpp 在 SYCL 后端上只支持 --split-mode layer 和 none,row 明确不支持;README 里的 tensor 切分至今标着实验性。也就是说,走 llama.cpp 的多卡本质是流水线,不是张量并行,别指望四卡能把单路速度提上去。

vLLM 的 XPU 路径支持真正的 TP,但需要几个配套参数:

docker run -d --name vllm-xpu \
  --device /dev/dri -v /dev/dri/by-path:/dev/dri/by-path:ro --ipc=host \
  -e ZE_AFFINITY_MASK=0,1,2,3 \
  -e VLLM_WORKER_MULTIPROC_METHOD=spawn \
  -e CCL_ZE_IPC_EXCHANGE=pidfd \
  -e FI_TCP_IFACE=lo \
  -v "$HOME/.cache/huggingface:/root/.cache/huggingface" \
  -p 127.0.0.1:8000:8000 \
  vllm/vllm-openai-xpu:latest \
  <model-id> --dtype bfloat16 --block-size=64 \
  --disable-custom-all-reduce --tensor-parallel-size 4

--disable-custom-all-reduce 是必须的:vLLM 默认那条 all-reduce 路径是为 CUDA 调的,在 XPU 上用不了。ZE_AFFINITY_MASK 暴露几张卡,TP 就只能设几,设大了在引擎初始化时就报设备越界。

按模型分卡的做法反而更简单,也更符合当前 Intel 的软件成熟度。日内瓦一家做本地推理服务的小公司公开过他们的四卡配置:卡 0 跑 gpt-oss-20b(vLLM XPU,MXFP4,占 13GB),卡 1 跑 Qwen3-Coder-30B-A3B(llama.cpp SYCL,Q4_K_XL,17.7GB),卡 2 和 3 合跑 Qwen3-Next-80B-A3B(Q3_K_XL,35.6GB)。三个模型同时在线,四张卡全部用满。

他们给出的数字也值得记下:gpt-oss-20b 单卡单请求 35.1 tok/s,4 路并发时聚合 133.9 tok/s,8 路时到过 241 tok/s,prefill 约 5000 tok/s(4.3K token 的提示)。这是消费级主板(X299、i9-9980XE、每卡 x8 Gen3)上的成绩,不代表上限,但能说明单卡连续批处理已经够用。

同一份记录里还有一条反向证据:那个 80B 模型走 llama.cpp、横跨两张卡,单用户 32.0 tok/s,两个用户各 14.5 tok/s,四个用户各 7.0 tok/s,聚合吞吐从 32 掉到 20.7——人越多总产出越少。原因是 llama.cpp 没有连续批处理。这条比任何理论分析都更能说明「引擎选错,多卡白搭」。

功耗、散热和那台机器放哪

单卡 200W,四卡理论上限 800W,但实际跑推理很难吃满。上面那台四卡机在三个模型同时驻留、12 路并发时,四张卡合计 211W,温度 52–62°C;空载 163W。

另一组第三方实测(Alex Ziskind,4×B60,TP=4 跑 65GB 的 DeepSeek 蒸馏 32B)给出的整机峰值是 940W,单卡 120–130W、利用率约 22%。两组数据的共同点是:瓶颈在显存容量,不在算力,卡的功耗远低于 TBP。

这带来两个实用结论。一是电源不用按 800W 显卡预算去配,四卡加平台 1000–1200W 有余量;二是散热要按持续 200W×4 的热密度设计,而不是按实测的 130W。涡轮卡(blower)适合密集堆叠,轴流卡在四卡间距下会互相吸热。

机箱和主板才是四卡真正的门槛。B60 是双槽卡,四张至少要 8 槽位;每张要 x8 电气通道;还要考虑进风。这些约束加起来,四卡方案的隐性成本通常比四张卡本身高。

噪音是另一个常被低估的项。涡轮卡在小机箱里靠高转速压静压,满载时整机噪音不是「有点吵」,而是不能放在办公区。放机房意味着要有机柜、要有人管供电和网络,这笔运维成本在任何容量对比表里都不会出现,但它真实存在。

软件侧还有一条前置条件:四卡要跑起来,Linux 是默认选项。vLLM 的 XPU 镜像只提供 Linux 版本,强制 Python 3.12;Pro 卡应该走 Pro 驱动的季度分支,而不是消费级月度分支。这些约束在单卡阶段可以忽略,四卡阶段会变成「装不上」。

和同价位单卡、二手专业卡怎么比

按每 GB 显存的价格看,2026 年 11 月的排序是这样的(用上面的价格量级估算):

方案总显存总价(估算)每 GB单卡带宽
4× B6096GB约 3200 美元约 33 美元456 GB/s
3× B7096GB约 2850 美元约 30 美元608 GB/s
2× B7064GB约 1900 美元约 30 美元608 GB/s
1× 二手 309024GB约 1450 美元约 60 美元936 GB/s
1× RTX 509032GB约 6900 美元约 216 美元1792 GB/s
1× RTX PRO 600096GB约 16000 美元约 167 美元约 1792 GB/s

这张表最能说明问题的一点是:同样 96GB,三张 B70 比四张 B60 更便宜、总带宽更高、卡数更少、还带 ECC。B70 的渠道价被报道有上浮,实际到手可能接近翻倍,那时结论会反过来——所以这不是一个稳定结论,而是一个必须按当天报价重算的式子。

单卡的劣势不在每 GB 价格,在带宽。456 GB/s 对 1792 GB/s,按带宽推算,同一个 32B 模型的解码速度差三到四倍(估算,未计缓存与批处理的影响)。多卡补的是容量,不是速度,而且补完之后单路速度还要再打一次折。

二手专业卡是另一条路。48GB 的 RTX A6000 二手价大约 4600 美元。它给不了 96GB,但一张卡就能跑 70B Q4,不用并行、不用调集合通信。如果目标只是「跑得动 70B」,一张 A6000 比四张 B60 省事得多,代价是 CUDA 生态里它是老架构,且没有保修。

什么规模才值得上多卡

把上面的材料压成一条判断线:

显存需求 ≤ 24GB:单卡,不用讨论。24GB 这条线的实际手感可以参考27B 在 24GB 上的边界:权重装得下,长上下文装不下,真正决定体验的是 KV 预算。

24–48GB:优先单卡 32GB(B70)或二手 48GB 专业卡。两张 24GB 也能凑,但你会立刻遇到「模型怎么切」的问题,而收益只是省了一点钱。

48–96GB:这是四卡 B60 的甜区。70B Q4、120B MoE MXFP4 都在这个区间,且四卡能留出足够的 KV 空间给并发。判断标准是「权重 + 32K 上下文的 KV + 峰值并发」三者相加,而不是只看权重。

超过 96GB:先算租。8 卡 192GB 的整机成本、功耗、噪音、故障率都要算进去,云端按 token 计费在低负载下更划算。API 端点的价格差异可以参考同一个模型的端点价差,本地部署的成本对比必须用同一口径。

还有一条更简单的判据:如果你说不清自己要跑的模型具体多大、并发多少路、上下文多长,那就还没到需要多卡的时候。多卡是把已知需求装进去的工具,不是用来探索需求的。

顺序上也建议按这个来:先单卡把模型跑通、测出基线;再按模型分卡,把不同任务分到不同卡上;最后才考虑张量并行,而且只在单个模型确实装不下时用。反过来先上 TP,通常是用调试时间换一个本来不需要的架构。

买之前先量三件事

第一,量通道。xpu-smi listpciinfo 报的是卡「声明」的速率和宽度,不是协商结果。真实链路要往上走一层读 sysfs:

d=0000:18:00.0   # 换成 xpu-smi discovery 里的 BDF
if path=$(readlink -e "/sys/bus/pci/devices/$d"); then
    while [ -f "$path/vendor" ]; do
        printf '%s  x%s @ %s\n' "${path##*/}" \
            "$(cat "$path/current_link_width")" \
            "$(cat "$path/current_link_speed")"
        path=${path%/*}
    done
fi

如果显示 x4 或 Gen3,先解决插槽和主板,再谈买卡。四卡跑在 x4 上,TP 的通信开销会让多卡彻底失去意义。

第二,量显存。用 xpu-smi dump -m 18 看每张卡的实际占用是否均衡,明显不均通常意味着层切或 TP 配置有问题。

第三,量引擎。同一个模型,先用单卡跑出基线 tok/s,再上多卡对比。如果四卡的聚合吞吐没有明显高于单卡,说明你根本不需要四卡——你需要的是把并发降下来。

多卡这件事,2026 年在 Intel 平台上还处在「能用,但要挑场景」的阶段。官方的 vLLM 博客给过一张 8 卡系统上的表:GPT-OSS-120b、MXFP4、TP=4、1024/1024 序列、100 并发,TTFT 8.04 秒、TPOT 58.78 毫秒、输出吞吐 1495 tok/s。数字很好看,但那是 Xeon 平台、八卡、经过调优的配置,和你机箱里四张卡隔着一整套工程。

把它当作上限参考,别当作预期。

登录后可点赞、收藏与反馈。

继续阅读 NEXT

更多 →