个人学习小站 SIGNAL DESK 2026
LIVE --:--:--
Tag

#硬件

共 22 篇内容 · 第 1 / 2 页 tag
本地部署llama.cpp硬件
人工智能
11-18 12 小时前 约 9 分钟 4 阅读

RX 6000 跑本地大模型:Windows 没有 ROCm,四条路怎么选

RX 6000 全系不在 AMD Windows HIP SDK 兼容表里,但 Ollama 的 Vulkan 路线开箱即用:给出三份官方文档的口径差异、Vulkan 与 Linux ROCm 的性能交叉点、按显存的模型档位与三个高频失败点的对症解法。

技术决策本地部署开发工具
人工智能
11-18 13 小时前 约 12 分钟 4 阅读

torch.xpu 返回 False:八个原因逐条验证

同一个 False 可能来自驱动、运行时、wheel 来源、Python 标签、设备选择器、容器透传、WSL 节点或用户组。按从内核到 Python 包的顺序给八条验证命令,每条都能单独定性。

技术决策评测方法部署
人工智能
11-18 13 小时前 约 12 分钟 6 阅读

Arc Pro B60 24G 多卡:四卡方案的账怎么算

四张 B60 是 96GB 显存,价格约等于一张 RTX 5090 的一半,但多卡补的是容量不是速度。按官方规格与可查实测,拆开带宽、并行方式、功耗与故障域,给出「什么规模才值得上多卡」的判断线。

模型选型部署本地部署
人工智能
11-18 13 小时前 约 11 分钟 7 阅读

vLLM XPU 部署 OpenAI 兼容接口:完整命令与三个坑

从 wheel、源码、Docker 三条安装路径讲到起服务,逐项解释显存比例、最大长度、dtype 的真实含义,并拆解 Python 3.12 硬约束、模型架构与 dtype 不匹配、显存预留过高这三个高频失败点,附 curl 与压测口径。

模型选型开源模型本地部署
人工智能
11-18 13 小时前 约 10 分钟 5 阅读

Arc 上跑多模态模型:视觉编码器吃掉多少显存

VLM 的显存是三笔账:视觉塔权重、图像 token 撑起的 KV、引擎启动时按最大分辨率跑视觉编码器的激活预留。Qwen2.5-VL-7B 的视觉塔只占 8%,但 AWQ 后仍有 3.5GB 是 bf16。

模型选型评测方法部署
人工智能
11-18 13 小时前 约 11 分钟 5 阅读

Intel 显卡跑 Whisper:三种后端的速度与取舍

对比 whisper.cpp 的 SYCL 与 Vulkan 后端、faster-whisper、OpenVINO 三条路在 Intel 显卡上的真实支持范围,给出模型档位与显存关系、长音频切窗与时间戳对齐方法,以及按硬件场景的选型结论。

ComfyUI显存Intel显卡
人工智能
11-18 13 小时前 约 10 分钟 5 阅读

Flux 在 Intel 显卡上跑得动吗:显存账与三步降级

把 Flux 拆成 DiT、T5、CLIP、VAE 四段算显存,给出 fp16、fp8、GGUF 三档的真实体积与 12GB、16GB、24GB 卡的可行配置,再按「换量化格式、换文本编码器精度、降分辨率」三步给出降级顺序。

本地部署ComfyUI显存
人工智能
11-18 13 小时前 约 10 分钟 5 阅读

ComfyUI + Intel Arc:从驱动到第一张图的完整配置

按驱动、Python 环境、XPU 版 PyTorch、ComfyUI 本体、模型目录、首个工作流的顺序走一遍,给出每一步的验证方法和四个值得改的启动参数,并附 SD1.5、SDXL、Flux 三档的显存与耗时量级。

评测方法部署开发工具
人工智能
11-18 13 小时前 约 11 分钟 3 阅读

把 CUDA 代码迁到 Intel XPU:需要改的六处

六处差异按改动量排序:设备字符串能机械替换,stream 与 event 接口齐全但个别参数不生效,显存 API 对齐而账面含义变了,算子回退是静默的,CUDA C++ 扩展必须重写,调优入口换工具不换思路。每处附最小代码对照与验证方法。

部署本地部署开发工具
人工智能
11-18 13 小时前 约 12 分钟 2 阅读

不装 CUDA 也能跑:PyTorch XPU 从装环境到第一个张量

XPU wheel 把 SYCL 运行时打进了包里,所以官方路线不需要 source 任何 oneAPI 脚本。按驱动基线、wheel 安装、设备查询、第一个张量、CPU 脚本改造的顺序给一条能跑通的最短路径,附预期输出与症状对照表。

技术决策评测方法本地部署
人工智能
11-18 13 小时前 约 11 分钟 6 阅读

llama.cpp 的 Vulkan 与 SYCL 在 Arc 上差多少

官方没有同条件对照数据,差距取决于量化格式与硬件代际。本文先固定五个变量,再拆解 SYCL 的 reorder 与 XMX 路径相对 Vulkan 的位置,给出先用现成包验证收益的方法和可复现的 llama-bench 命令。

技术决策部署本地部署
人工智能
11-18 13 小时前 约 10 分钟 3 阅读

Vulkan、SYCL、OpenVINO:Intel GPU 三条路线怎么选

三条路线分别是通用图形接口、oneAPI 编程模型和推理部署框架,职责不同而非性能档位。本文比较上手成本、优化层次、模型覆盖与可调试性,说明 prefill 与 decode 要分开算,并给出四类场景的选择结论。