Intel 的 GPU Agent Skills:22 个技能能替你做哪些事
仓库里其实是 22 个技能目录,不是 20 个。它把主机检查、显存估算、服务拉起、benchmark 和 CUDA 迁移写成可执行的检查,条件不满足时拒绝;默认绑 0.0.0.0 且服务无鉴权的取舍写在 SECURITY.md。
intel/gpu-ai-skills 这个仓库值得看的不是它写了多少文档,而是它把「检查」写成了可执行的东西:脚本会读 xpu-smi 的输出、读模型的 config.json、读容器的启动参数,然后在条件不满足时拒绝继续。这一点和「让 Agent 读一篇部署指南」是两回事。
先说三个判断,后面逐个给依据。第一,它覆盖的是「把模型跑起来并测出数」,不包括「跑得好不好」的性能工程。
第二,它的安全默认值是明示的取舍,写在 SECURITY.md 里,风险在于读它的人(和 Agent)不会去读那个文件。第三,任何抄来的技能清单都会过期,因为仓库自己就在长。
顺序不是随意的:覆盖范围决定它能不能用,安全默认值决定它能不能放心给你用,清单过期决定你该怎么用它。
适合谁:手里有 Arc 或 Arc Pro、要在 Linux 上把 HF 模型跑成服务、并且已经在用 Claude Code 这类支持 Agent Skills 的工具的人。不适合只想在 Windows 上点开一个客户端聊天的人,也不适合把 CUDA C++ 算子当核心资产的团队。
先核对数量:22 个,不是 20 个
按 2026 年 11 月的主干,plugins/intel-gpu-ai-skills/skills/ 下有 22 个技能目录,README 的表格也是 22 行。Intel 发布在 Hugging Face 的那篇介绍里写的是「20 个」,那是旧数字。
这个差异本身就是结论:连官方博客都会落后于仓库。谁给你一份「Intel 的 20 个技能分别是什么」的清单,你都该去仓库数一遍。
| 分组 | 数量 | 代表技能 | 它实际做的事 |
|---|---|---|---|
| Setup | 4 | xpu-system-setup、xpu-runtime-preflight | 装 OMIX 与 Docker、查驱动与组权限 |
| Plan | 3 | model-can-it-fit、xpu-deploy-plan | 按 config.json 估显存、串成 PLAN.md |
| Run | 6 | vllm-xpu-run、sglang-xpu-run、llamacpp-xpu-run | 拉起 OpenAI 兼容服务并做冒烟 |
| Bench | 3 | vllm-xpu-bench、torch-xpu-bench | TTFT、TPOT、吞吐、峰值显存 |
| Profile | 4 | torch-xpu-profile、xpu-profile-unitrace | PyTorch 层与 SYCL kernel 层 |
| Migrate | 2 | cuda-to-xpu-migration、xpu-port | 评估与机械改写 Python 代码 |
六组里,Setup 和 Plan 是别的技能包少见的:多数「AI 部署技能」直接从 docker run 开始,把前置条件留给用户。这里把前置条件做成了独立技能,还能单独跑诊断脚本。
它真正替你做的三件事
第一,把「检查」变成有输出的脚本,而不是建议。 model-can-it-fit 要求显式传 --device-vram-gb,并且不给默认值。它先去 xpu-smi discovery -d 0 读真实显存,再按 SKU 表核对,不让你凭记忆填 24。
连命令细节都写进了技能里:裸跑 xpu-smi discovery(不带 -d)根本不打印显存字段,只有 -d 0 才有。这种细节靠读官方文档是查不到的,只能靠踩过。
它还把卡型和显存钉成了表:Arc Pro B70/B65 是 32GB、B60 是 24GB、B50 是 16GB、B580 是 12GB。多卡做张量并行时,要求按组里最小的那张算,因为 TP 组的上限由最弱的卡决定。
第二,它会拒绝。 这一点比会执行更重要。model-config-recommend 对 Hub 上的模型用 --trust-remote-code 时,如果没有同时给 --revision,直接退出码 2 拒绝,理由是:不钉版本的仓库在服务启动时解析默认分支,你审的代码和跑的代码不是同一份。
同理,model-can-it-fit 明确不管扩散模型,遇到就让你去跑实测。一个会划边界的技能包,比一个什么都能答的可信。
第三,版本钉死在技能里。 sglang-xpu-run 钉的是 v0.5.22-xpu,技能里写的镜像体积约 36 GB,并且明确写了「不存在 latest-xpu 标签」。它还顺手告诉你 SGLang 掉回 CPU 时不报错,只在吞吐上体现——所以冒烟测试必须校验输出内容,不能只看 HTTP 200。
这些结论都有实测来源。Intel 的博客里提到,xpu-system-setup 在一台 Arc Pro B70 + Ubuntu 24.04 上跑出了三层前置全坏(GRUB 里的 nomodeset、内核缺 Battlemage 的 PCI alias、compute runtime 太旧),加 --fix 重启后才全绿;sglang-xpu-run 在物理 B580 上抓到了 kernel 与 UMD 版本不匹配、以及非 root 用户不在 render 组两个问题。这些是 mock 环境抓不到的。
技能文件本身是怎么写的
每个技能是一个目录,里面一份 SKILL.md,开头是 name 和 description 两个字段。别小看这两行:Agent 靠它们决定「什么时候加载这个技能」。
所以这些 description 写得很长,而且一半篇幅在写「不要用它做什么」。vllm-xpu-run 的结尾是「不用于选择最佳量化、KV dtype、DP/TP 布局、上下文或并发(那是 model-config-recommend)」;sglang-xpu-bench 的结尾是「不用于 vLLM 服务」。这是在用描述做路由,把「相近但不同」的任务推开。
这个设计有个副作用:技能多了以后,路由本身会变成瓶颈。仓库自己也承认「benchmark X」这种说法是故意含糊的,好的 Agent 应该反问是 PyTorch、vLLM 还是 SGLang。你如果不想被反问,就在提示里点名技能。
它替不了你做的三件事
CUDA C++ 不翻译。 README 写得很直接:这些技能不把 CUDA C++ 内核翻译成 SYCL,CUDA 原生组件只会被标成「需要替换或重新设计」。xpu-port 做的是基于 libcst 的 Python 扫描与机械改写,再加一次前向的 FP64 对比。它能改 device="cuda",改不了 global。
性能工程只到「测」,不到「调」。 三个 bench 技能给的是 TTFT、TPOT、吞吐这些数,torch-xpu-profile 给的是热点算子。至于为什么慢、怎么改,技能里没有——那需要你知道 Xe 的 sub-group、DPAS、oneDNN 的 reorder 代价。这些不是提示词能替代的。
模型支持列表要现场抓。 vllm-xpu-run 明确要求 Agent 在回答「支持哪些模型」时去抓 vLLM 的 XPU 页面,并在答案里带上 URL 和抓取日期,不允许背诵。这条设计说明作者清楚:XPU 的模型覆盖是按周变化的,任何静态清单都会变成错误信息。
三个让 benchmark 变成假数的坑
技能包里有三个 bench 技能,但它们能测出真数的前提是别踩这三个坑。这三条都是技能自己写出来的,不是我的推测。
第一个:SGLang 掉回 CPU 时不报错。它能正常起服务、正常返回、curl 也能拿到 JSON,只有吞吐难看得离谱——技能里的说法是「50 倍」。所以冒烟测试必须校验输出内容,光看 HTTP 200 等于没测。
第二个:--enforce-eager 在 vLLM 0.31.0 之后会反过来拖慢。那个版本起 XPU graph 默认开启,此时再加这个参数等于关掉图捕获,技能给的实测是 4 卡 Arc Pro B70、并发 8 下 TPOT 从 36 ms 变成 64 ms。谁拿着一份「XPU 上要加 enforce-eager 才稳」的旧笔记,测出来的数就是假的。
第三个:测量口径不写清楚,数字没有意义。TTFT、TPOT、ITL、吞吐是四个不同指标,并发和输入长度必须一起报。技能要求把这几项分开输出,就是为了防止「平均一下说快了 30%」这种结论。
补一条边界:model-can-it-fit 只算显存,不算速度;bench 只测速度,不算显存峰值之外的东西。两个工具不能互相代替,也别拿一个的结论去回答另一个的问题。
0.0.0.0 与 trust-remote-code:不是隐藏缺陷,是明示取舍
仓库根目录有一份 SECURITY.md,把两件事写在了明面上。
第一件:这些技能启动的模型服务没有鉴权,且在所有网卡上可达。sglang-xpu-run 和 llamacpp-xpu-run 显式传 --host 0.0.0.0;vllm-xpu-run 用 -p 8000:8000 发布端口,docker 默认就绑全部网卡。文件里管这叫「deliberate」——面向单机 bring-up 和 benchmark,不是给共享环境用的。
第二件:--trust-remote-code 永远不会被自动加上,加上时必须配 --revision。启动脚本默认关,推荐器在没有版本号时直接拒绝。
这里有个容易被忽略的技术细节:只钉 --revision 不够。vLLM 把权重和仓库里的建模代码分开解析,所以要同时钉 --code-revision。技能生成的启动行会把两个都写上,手写命令的人通常只写一个,结果权重是旧版、代码是最新分支。
推荐器拒绝的理由也值得抄下来:不钉版本时,仓库在服务启动那一刻解析默认分支,你审过的代码和真正执行的代码不是同一份。这句话适用于所有 trust_remote_code=True 的场景,不只 Intel。
所以真正的问题不是「Intel 埋了个坑」,而是这条链条:Agent 读了 SKILL.md,照着敲了 docker run,而你从没打开过 SECURITY.md。技能文件是给 Agent 看的,安全说明是给人看的,两者不在同一个上下文里。
加固落到命令上是四行:
# 只绑回环,别用 0.0.0.0
docker run -d --name vllm-xpu \
--device /dev/dri \
--group-add "$(getent group render | cut -d: -f3)" \
--ipc=host -p 127.0.0.1:8000:8000 \
vllm/vllm-openai-xpu:latest Qwen/Qwen2.5-1.5B-Instruct \
--dtype bfloat16 --max-model-len 4096 --gpu-memory-utilization 0.85
--host 127.0.0.1 同理,给 SGLang 和 llama-server 用。要给别的机器访问,就在前面加一层带鉴权的反向代理,别直接把端口暴露出去——这类「本机服务默认监听全部网卡」的问题在别处也常见,Langflow 那篇讲过同一类暴露面。
有一处对比值得说:vLLM 官方的 XPU 安装文档里,docker run 示例是带 --privileged 的。这个技能包反而更克制——xpu-container-run 明确写「跑模型和多数 profiling,--device /dev/dri 就够了」,只在 sysman 诊断这类场景才建议加特权。官方的示例不等于安全基线,这条在 Intel 这里也成立。
还有一个细节:SECURITY.md 承认 xpu-system-setup 会用 sudo 跑 Docker 的官方便利脚本,只记录 SHA-256 不校验。对安全敏感的环境,它给的建议是自己用 apt 源加签名密钥装。这个坦白比藏着更有用。
怎么用它,而不被它带沟里
三条规矩。
第一,让 Agent 交证据而不是交结论。问「这个模型在 B580 上能不能跑 8k」,要求它贴出 xpu-smi discovery -d 0 的原始输出、config.json 里的层数与 KV 头数、以及 model-can-it-fit 打印的 Vision tower: 行。给不出这三样,答案就是猜的。
第二,把安全参数写进你自己的封装,而不是指望 Agent 每次记得。做一个 serve.sh,里面固定 -p 127.0.0.1、固定 --revision,让 Agent 只填模型名。技能包不可能知道你家的网络拓扑。
第三,先跑它的自检再信它的判断。仓库自带 tests/static.sh,其中 secure-config.sh 专门守住「不自动加 --trust-remote-code」「不静默发布到全部网卡」这两条。这个测试在,说明这两条是被 CI 保护的,不是写在文档里的口号。
安装本身也有副作用
bash scripts/install.sh 会探测机器上装了哪些 Agent,然后把技能复制进每一个的目录——Claude Code 是 ~/.claude/skills/,Codex 在 ~/.codex/skills/,Cursor、Qwen、Kimi 各有各的位置。默认行为是「全都装」。
这意味着它是用户级全局生效的,不是项目级。你在 A 项目里装上,B 项目的 Agent 也会看到这批技能,并在你说「跑个 benchmark」的时候激活它们。不想这样的话,用 --agent 只装一个,或者装完用 --uninstall 收回去。
卸载要注意顺序:Claude Code 如果用 /plugin marketplace add 装的,得先用 /plugin 卸,再删目录。Gemini CLI 升级前要先 gemini extensions uninstall,否则会残留旧版本——这些在 README 里都写了,但和大多数「装完就不管」的习惯相反。
关于「让编码 Agent 自动部署模型」这件事,这套东西的意义在于把流程拆成了可验证的关卡:装得上吗、算得下吗、起得来吗、测得准吗。Agent 的价值在串联,不在替你判断。判断仍然要做,只是判断的依据从「模型说的」变成了「脚本打印的」。
想验证它在你机器上是否真的可用,别从「帮我部署一个模型」开始。先让它跑 xpu-runtime-preflight,看输出里有没有明确的 go/no-go;再用 model-can-it-fit 报一个你已知答案的模型(比如 7B bf16 在 12GB 卡上),看它是不是给出同样结论。两道都对上了,再让它碰容器。
第三道是安全:让它生成一条启动命令,然后自己 grep 一遍 0.0.0.0 和 --privileged。有,说明你的提示里没把约束写死,Agent 只是照着技能里的默认值走。
如果你要的是「本地起一个能聊天的服务」而不是自动化流水线,那这套技能的收益有限——Ollama 那种服务加客户端的形态装完就能用,不需要 Agent 参与。反过来说,要在十台机器上复现同一个部署,它省下来的时间是真的。
登录后可点赞、收藏与反馈。