Arc Pro B60 24G 多卡:四卡方案的账怎么算
四张 B60 是 96GB 显存,价格约等于一张 RTX 5090 的一半,但多卡补的是容量不是速度。按官方规格与可查实测,拆开带宽、并行方式、功耗与故障域,给出「什么规模才值得上多卡」的判断线。
四张 Arc Pro B60 叠起来是 96GB 显存,按 2026 年 11 月的渠道价折算,总价大约只相当于一张 RTX 5090 的一半。这个对比很抓人,但它回答的是「买不买得起」,不是「该不该买」。多卡真正的门槛不在钱,在于你要跑的东西能不能被切开、切开之后还跑不跑得动。
先说结论。四卡 B60 只对三类人成立:模型权重本身就超过 40GB、单卡放不下;需要同时驻留两三个模型对外服务;或者需要几十路并发而不在乎单路速度。
如果你的目标模型 32GB 单卡能装下,四卡带来的收益远小于它带来的复杂度——更多功耗、更多 PCIe 通道要求、更容易踩的并行调试坑。
先把规格和同期价格摆齐
B60 是 2025 年 Q2 上市的 Xe2 工作站卡,官方规格页上的关键数字如下,和后来 2026 年 Q1 的 B70 放在一起看,能看清 Intel 自己的产品梯度。
| 项目 | Arc Pro B60 | Arc Pro B70 | RTX 5090(参照) | 二手 RTX 3090(参照) |
|---|---|---|---|---|
| 显存 | 24GB GDDR6 | 32GB GDDR6 | 32GB GDDR7 | 24GB GDDR6X |
| 位宽 / 带宽 | 192-bit / 456 GB/s | 256-bit / 608 GB/s | 512-bit / 1792 GB/s | 384-bit / 936 GB/s |
| Xe-core / XMX | 20 / 160 | 32 / 256 | — | — |
| INT8 峰值 | 197 TOPS | 367 TOPS | — | — |
| 板卡功耗 | 200W(120–200W) | 230W(160–290W) | 575W | 350W |
| 总线 | PCIe 5.0 x16(x8 电气) | PCIe 5.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 |
| ECC | 规格页未列 | 支持 | 不支持 | 不支持 |
| 2026-11 价格量级 | 约 700–1000 美元 | 949 美元(MSRP) | 约 6900 美元(街价) | 约 1350–1800 美元 |
三点需要单独指出。
第一,B60 的「x16 插槽、x8 电气」是硬约束。卡上只有 8 条通道,插在 x16 槽里也只跑 x8。四张卡就是 32 条 PCIe 5.0 通道,加上 NVMe 和网卡,消费级平台(CPU 直连通道通常在 20 条上下)根本不够,必须上 Xeon、Threadripper 或带 PCIe 交换芯片的平台。Intel 的 Project Battlematrix 参考配置用的正是工作站级 Xeon 平台,这不是营销选择,是电气决定的。
第二,ECC。B70 的规格页写了 ECC 支持,B60 的规格页没有这一项。长时间跑推理服务,显存位翻转导致输出异常是真实存在的一类故障,需要这个特性就只能选 B70 或更高。
第三,价格处在异常区间。2026 年的内存涨价把消费卡推到了历史高位:RTX 5090 首发 1999 美元,11 月的街价被追踪到 6900 美元上下。
B60 反而因为定位专业、渠道分散,还留在接近 MSRP 的位置。这个价差是当下四卡方案成立的主要理由,也是最不稳定的变量——一旦显存价格回落,整个算术要重做。
96GB 到底能装下什么
权重占用有个粗略公式:参数量 × 每参数字节数。Q4 大约 0.55–0.6 字节/参数,Q8 约 1.05,FP16 是 2。剩下的显存留给 KV cache 和框架开销。按参数档位逐级估算的方法,显存对照表里有更细的分档。
KV cache 按 Llama-3-70B 这类 GQA 结构估算,每 1K token 大约 0.3GB;32K 上下文就要 10GB 左右。这是估算值,具体取决于层数、KV 头数和是否开 KV 量化。
| 目标模型 | 权重(量化) | 建议卡数 | 说明 |
|---|---|---|---|
| 32B dense,Q4 | 约 19GB | 1 张 | 24GB 单卡可跑,不需要多卡 |
| 70B dense,Q4 | 约 40GB | 2 张 | 两张卡留出的 KV 空间比四张紧张,长上下文要算 |
| 120B MoE,MXFP4 | 66GB 以上 | 4 张 | 四卡是能跑起来的最低配置 |
| 150B 级 | — | 8 张(192GB) | Intel 官方对 Battlematrix 的说法 |
最后一行来自 Intel 自己的表述:8 卡 B60、192GB 显存,可运行「最高 1500 亿参数」的中等规模模型。注意这是容量上限的表述,没有给吞吐和上下文条件。
同一批材料里还有一句「四卡互联可支持 50 余位用户同时访问」——同样没有测试条件,只能当量级参考,不能当容量规划依据。
120B 那一行来自国内一次四卡 B60 工作站评测(长城世恒 X-AIGC,MXFP4,单批上限 8192 token,最大上下文 3000)。它给出的结论是四卡是这套模型能跑起来的最低配置,权重就占 66GB 以上,剩下不到 30GB 要分给 KV 和框架。
真正卡人的往往不是权重,是并发。每路请求都要占一段 KV cache,32 路并发、8K 上下文,KV 就能吃掉几十 GB。四卡的意义在这里比在「跑大模型」上更明显。
卡间互联:没有 NVLink,而且 all-reduce 可能走 TCP
B60 之间没有 NVLink,只有 PCIe。Battlematrix 的资料里提到 PCIe P2P 传输,但这是整套软件栈配合下的能力,不是插上卡就自动生效。
更直接的证据在实测层面。Intel 自己的 gpu-ai-skills 文档里记录了一段很具体的排查:在 2 张 Arc Pro B70 上跑 SGLang 的 --tp 2,服务器能正常起来、/v1/models 也能返回,但第一个推理请求永远不返回。
根因不是显卡,也不是驱动:容器镜像里 libfabric 的共享内存 provider 不可用(fi_info -p shm 返回无数据),oneCCL 退到 TCP,然后 libfabric 挑了一张 Docker 网桥当网卡,rank 之间的通信根本没建立起来。加上 FI_TCP_IFACE=lo 之后恢复正常。
同一份文档给了对照数据:TP=2、8×64 token 的请求,走 loopback 是 1524ms,走真实网卡是 1655ms。也就是说,这个场景下的集合通信开销是以「百毫秒」计的,而请求本身只有 8×64 个 token。这不是 PCIe 带宽的极限问题,是通信路径压根没走到 P2P 上。
对四卡方案的直接含义:张量并行在 Intel 平台上,收益比在 NVLink 机器上小得多,调试成本高得多。官方 CI 的态度也能佐证——XPU 的 nightly 测试里,Llama-3.1-8B 只跑 TP=2,因为 TP=4 会在首个 prefill 批次把 Level Zero 驱动卡死;四个 MoE 模型才跑 TP=4。
还有一层容易被忽略的成本:故障域。TP 是一个进程组,任何一张卡掉线、驱动重置或显存耗尽,整个引擎一起崩,重启时间以分钟计——同一份文档里,vLLM 的 TP=2 从启动到 ready 用了 142 秒。
按模型分卡则相反,一张卡出事只影响一个模型,其余继续服务。做长期在线的服务,这个差别比几帧吞吐重要。
两种并行:切模型,还是切卡
多卡有两条完全不同的用法,选错了会白折腾。
| 用法 | 机制 | 适合 | 代价 |
|---|---|---|---|
| 张量并行(TP) | 每层的权重矩阵按维度切开,每步都要 all-reduce | 单个模型装不下,且延迟要求不高 | 通信开销大;Intel 上还有驱动卡死的已知问题 |
| 按模型分卡 | 每个模型独占一到多张卡,互不通信 | 同时服务多个模型、多类任务 | 显存不能共享,利用率看调度 |
| 流水并行(层切) | 按层分段,卡间只传激活值 | llama.cpp 的默认多卡方式 | 同一时刻只有一张卡在算,吞吐上不去 |
llama.cpp 在 SYCL 后端上只支持 --split-mode layer 和 none,row 明确不支持;README 里的 tensor 切分至今标着实验性。也就是说,走 llama.cpp 的多卡本质是流水线,不是张量并行,别指望四卡能把单路速度提上去。
vLLM 的 XPU 路径支持真正的 TP,但需要几个配套参数:
docker run -d --name vllm-xpu \
--device /dev/dri -v /dev/dri/by-path:/dev/dri/by-path:ro --ipc=host \
-e ZE_AFFINITY_MASK=0,1,2,3 \
-e VLLM_WORKER_MULTIPROC_METHOD=spawn \
-e CCL_ZE_IPC_EXCHANGE=pidfd \
-e FI_TCP_IFACE=lo \
-v "$HOME/.cache/huggingface:/root/.cache/huggingface" \
-p 127.0.0.1:8000:8000 \
vllm/vllm-openai-xpu:latest \
<model-id> --dtype bfloat16 --block-size=64 \
--disable-custom-all-reduce --tensor-parallel-size 4
--disable-custom-all-reduce 是必须的:vLLM 默认那条 all-reduce 路径是为 CUDA 调的,在 XPU 上用不了。ZE_AFFINITY_MASK 暴露几张卡,TP 就只能设几,设大了在引擎初始化时就报设备越界。
按模型分卡的做法反而更简单,也更符合当前 Intel 的软件成熟度。日内瓦一家做本地推理服务的小公司公开过他们的四卡配置:卡 0 跑 gpt-oss-20b(vLLM XPU,MXFP4,占 13GB),卡 1 跑 Qwen3-Coder-30B-A3B(llama.cpp SYCL,Q4_K_XL,17.7GB),卡 2 和 3 合跑 Qwen3-Next-80B-A3B(Q3_K_XL,35.6GB)。三个模型同时在线,四张卡全部用满。
他们给出的数字也值得记下:gpt-oss-20b 单卡单请求 35.1 tok/s,4 路并发时聚合 133.9 tok/s,8 路时到过 241 tok/s,prefill 约 5000 tok/s(4.3K token 的提示)。这是消费级主板(X299、i9-9980XE、每卡 x8 Gen3)上的成绩,不代表上限,但能说明单卡连续批处理已经够用。
同一份记录里还有一条反向证据:那个 80B 模型走 llama.cpp、横跨两张卡,单用户 32.0 tok/s,两个用户各 14.5 tok/s,四个用户各 7.0 tok/s,聚合吞吐从 32 掉到 20.7——人越多总产出越少。原因是 llama.cpp 没有连续批处理。这条比任何理论分析都更能说明「引擎选错,多卡白搭」。
功耗、散热和那台机器放哪
单卡 200W,四卡理论上限 800W,但实际跑推理很难吃满。上面那台四卡机在三个模型同时驻留、12 路并发时,四张卡合计 211W,温度 52–62°C;空载 163W。
另一组第三方实测(Alex Ziskind,4×B60,TP=4 跑 65GB 的 DeepSeek 蒸馏 32B)给出的整机峰值是 940W,单卡 120–130W、利用率约 22%。两组数据的共同点是:瓶颈在显存容量,不在算力,卡的功耗远低于 TBP。
这带来两个实用结论。一是电源不用按 800W 显卡预算去配,四卡加平台 1000–1200W 有余量;二是散热要按持续 200W×4 的热密度设计,而不是按实测的 130W。涡轮卡(blower)适合密集堆叠,轴流卡在四卡间距下会互相吸热。
机箱和主板才是四卡真正的门槛。B60 是双槽卡,四张至少要 8 槽位;每张要 x8 电气通道;还要考虑进风。这些约束加起来,四卡方案的隐性成本通常比四张卡本身高。
噪音是另一个常被低估的项。涡轮卡在小机箱里靠高转速压静压,满载时整机噪音不是「有点吵」,而是不能放在办公区。放机房意味着要有机柜、要有人管供电和网络,这笔运维成本在任何容量对比表里都不会出现,但它真实存在。
软件侧还有一条前置条件:四卡要跑起来,Linux 是默认选项。vLLM 的 XPU 镜像只提供 Linux 版本,强制 Python 3.12;Pro 卡应该走 Pro 驱动的季度分支,而不是消费级月度分支。这些约束在单卡阶段可以忽略,四卡阶段会变成「装不上」。
和同价位单卡、二手专业卡怎么比
按每 GB 显存的价格看,2026 年 11 月的排序是这样的(用上面的价格量级估算):
| 方案 | 总显存 | 总价(估算) | 每 GB | 单卡带宽 |
|---|---|---|---|---|
| 4× B60 | 96GB | 约 3200 美元 | 约 33 美元 | 456 GB/s |
| 3× B70 | 96GB | 约 2850 美元 | 约 30 美元 | 608 GB/s |
| 2× B70 | 64GB | 约 1900 美元 | 约 30 美元 | 608 GB/s |
| 1× 二手 3090 | 24GB | 约 1450 美元 | 约 60 美元 | 936 GB/s |
| 1× RTX 5090 | 32GB | 约 6900 美元 | 约 216 美元 | 1792 GB/s |
| 1× RTX PRO 6000 | 96GB | 约 16000 美元 | 约 167 美元 | 约 1792 GB/s |
这张表最能说明问题的一点是:同样 96GB,三张 B70 比四张 B60 更便宜、总带宽更高、卡数更少、还带 ECC。B70 的渠道价被报道有上浮,实际到手可能接近翻倍,那时结论会反过来——所以这不是一个稳定结论,而是一个必须按当天报价重算的式子。
单卡的劣势不在每 GB 价格,在带宽。456 GB/s 对 1792 GB/s,按带宽推算,同一个 32B 模型的解码速度差三到四倍(估算,未计缓存与批处理的影响)。多卡补的是容量,不是速度,而且补完之后单路速度还要再打一次折。
二手专业卡是另一条路。48GB 的 RTX A6000 二手价大约 4600 美元。它给不了 96GB,但一张卡就能跑 70B Q4,不用并行、不用调集合通信。如果目标只是「跑得动 70B」,一张 A6000 比四张 B60 省事得多,代价是 CUDA 生态里它是老架构,且没有保修。
什么规模才值得上多卡
把上面的材料压成一条判断线:
显存需求 ≤ 24GB:单卡,不用讨论。24GB 这条线的实际手感可以参考27B 在 24GB 上的边界:权重装得下,长上下文装不下,真正决定体验的是 KV 预算。
24–48GB:优先单卡 32GB(B70)或二手 48GB 专业卡。两张 24GB 也能凑,但你会立刻遇到「模型怎么切」的问题,而收益只是省了一点钱。
48–96GB:这是四卡 B60 的甜区。70B Q4、120B MoE MXFP4 都在这个区间,且四卡能留出足够的 KV 空间给并发。判断标准是「权重 + 32K 上下文的 KV + 峰值并发」三者相加,而不是只看权重。
超过 96GB:先算租。8 卡 192GB 的整机成本、功耗、噪音、故障率都要算进去,云端按 token 计费在低负载下更划算。API 端点的价格差异可以参考同一个模型的端点价差,本地部署的成本对比必须用同一口径。
还有一条更简单的判据:如果你说不清自己要跑的模型具体多大、并发多少路、上下文多长,那就还没到需要多卡的时候。多卡是把已知需求装进去的工具,不是用来探索需求的。
顺序上也建议按这个来:先单卡把模型跑通、测出基线;再按模型分卡,把不同任务分到不同卡上;最后才考虑张量并行,而且只在单个模型确实装不下时用。反过来先上 TP,通常是用调试时间换一个本来不需要的架构。
买之前先量三件事
第一,量通道。xpu-smi listpciinfo 报的是卡「声明」的速率和宽度,不是协商结果。真实链路要往上走一层读 sysfs:
d=0000:18:00.0 # 换成 xpu-smi discovery 里的 BDF
if path=$(readlink -e "/sys/bus/pci/devices/$d"); then
while [ -f "$path/vendor" ]; do
printf '%s x%s @ %s\n' "${path##*/}" \
"$(cat "$path/current_link_width")" \
"$(cat "$path/current_link_speed")"
path=${path%/*}
done
fi
如果显示 x4 或 Gen3,先解决插槽和主板,再谈买卡。四卡跑在 x4 上,TP 的通信开销会让多卡彻底失去意义。
第二,量显存。用 xpu-smi dump -m 18 看每张卡的实际占用是否均衡,明显不均通常意味着层切或 TP 配置有问题。
第三,量引擎。同一个模型,先用单卡跑出基线 tok/s,再上多卡对比。如果四卡的聚合吞吐没有明显高于单卡,说明你根本不需要四卡——你需要的是把并发降下来。
多卡这件事,2026 年在 Intel 平台上还处在「能用,但要挑场景」的阶段。官方的 vLLM 博客给过一张 8 卡系统上的表:GPT-OSS-120b、MXFP4、TP=4、1024/1024 序列、100 并发,TTFT 8.04 秒、TPOT 58.78 毫秒、输出吞吐 1495 tok/s。数字很好看,但那是 Xeon 平台、八卡、经过调优的配置,和你机箱里四张卡隔着一整套工程。
把它当作上限参考,别当作预期。
登录后可点赞、收藏与反馈。