个人学习小站 SIGNAL DESK 2026
LIVE --:--:--
资讯 人工智能 FLUX.1-dev 模型卡与 GGUF 仓库体积、ComfyUI 文档

Flux 在 Intel 显卡上跑得动吗:显存账与三步降级

把 Flux 拆成 DiT、T5、CLIP、VAE 四段算显存,给出 fp16、fp8、GGUF 三档的真实体积与 12GB、16GB、24GB 卡的可行配置,再按「换量化格式、换文本编码器精度、降分辨率」三步给出降级顺序。

2026年11月18日 13 小时前 作者 站长 约 10 分钟 4 阅读

Flux 在 Arc 上跑得动,但「跑得动」要拆成两件事:权重放不放得下,以及放下之后每步要等多久。前者靠算,后者靠接受。

先把结论放前面:12GB 卡要用 GGUF 的 Q4 档配 fp8 文本编码器,16GB 卡能上到 Q6,24GB 卡可以跑 fp8 单文件并留出余量。fp16 原始权重需要 34GB,Arc 单卡没有这一档。

Flux 的账比 SDXL 难算,原因有三个:它不是单个文件而是四个组件,文本编码和去噪分阶段进行,而「fp8」这个词在社区里同时指三种不同的东西。这三件事混在一起,网上的容量表基本对不上。

显存由三部分组成

Flux 不是一个模型,是四个文件:DiT 本体、T5-XXL 文本编码器、CLIP-L、VAE。体积如下,数字取自 Black Forest Labs 官方仓库和 ComfyUI 的文本编码器仓库。

组件fp16/bf16fp8GGUF Q4_K_S
DiT(12B)23.80 GB约 11.8 GB6.81 GB
T5-XXL9.79 GB4.89 GB4.89 GB(仍是 fp8)
CLIP-L0.25 GB0.25 GB0.25 GB
VAE(ae)0.34 GB0.34 GB0.34 GB
合计34.18 GB17.25 GB12.29 GB

fp8 那一列的 17.25GB 不是算出来的,是 Comfy-Org 打包的 flux1-dev-fp8.safetensors 的实际大小——它把 DiT、T5、CLIP 塞进了一个文件。减去 T5、CLIP、VAE,DiT 部分约 11.8GB。

这里有个常见的误算:看到「fp8 版 12GB」就以为 12GB 卡刚好装下。12GB 是 DiT 单独的量,文本编码器还没算。把 T5 的 4.89GB 加回去,17GB 出头,12GB 卡装不下。

文件从哪来

三个来源,用途不同。

Black Forest Labs 的 FLUX.1-dev 仓库是原始权重,flux1-dev.safetensors 23.80GB,ae.safetensors 0.34GB。仓库有访问门槛,要先同意许可才能下载。

Comfy-Org 的 flux1-dev 仓库是打包好的 fp8 单文件,17.25GB,DiT、T5、CLIP 都在里面,放进 models/checkpoints 就能用。省事,但省不了显存。

comfyanonymous/flux_text_encoders 提供单独的文本编码器:t5xxl_fp16 9.79GB、t5xxl_fp8_e4m3fn 4.89GB、clip_l 0.25GB。想混搭精度就从这里取。

GGUF 版本在 city96/FLUX.1-dev-gguf,Q2_K 到 Q8_0 都有:Q4_K_S 6.81GB、Q6_K 9.86GB、Q8_0 12.71GB。12GB 卡要走 DiT,最现实的就是这一档。

为什么 12GB 卡还能跑

因为文本编码和去噪不是同时进行的。

T5 只在前处理阶段干活:把你的提示词编码成一串条件向量,编完就可以让出显存。后面几十步去噪,卡上只有 DiT。ComfyUI 的显存调度默认就按这个逻辑走,模型用完就挪走。

所以真正的峰值是两段里的较大者,不是两者之和。12GB 卡上,编码阶段的峰值是 T5 加 CLIP 约 5.2GB,去噪阶段的峰值是 DiT 6.81GB 加激活缓冲,两段都能塞进 12GB。

一旦这个调度失效,两个模型同时驻留,17GB 直接爆。表现出来是加载阶段就报显存不足,或者跑完文本编码、进第一步去噪时崩掉。这时候加 --disable-smart-memory 往往比降分辨率有效。

# 12GB 卡:强制用完即卸载,并放开单次分配上限
$env:UR_L0_ENABLE_RELAXED_ALLOCATION_LIMITS="1"
python main.py --reserve-vram 1 --disable-smart-memory

# Linux 下第一行换成:export UR_L0_ENABLE_RELAXED_ALLOCATION_LIMITS=1

编码阶段的峰值没那么小

T5-XXL 是 4.76B 参数的编码器,fp16 权重 9.79GB。它的占用不止权重:注意力层的中间张量随序列长度增长,再加上 CLIP-L 和分词器,编码阶段的峰值会比「4.89 + 0.25」高。

提示词越长,这一段越吃紧。Flux 的提示词常写成一段话,编到几百 token 很常见。如果每次都是「模型加载完、刚开始编码就崩」,先把提示词砍短试一次,能立刻区分是容量问题还是别的问题。

这一段的时间成本也不是零。T5 只跑一次,但它是 4.7B 参数的模型,在 Arc 上编码几百 token 要几秒。步数越少,这部分占比越高——schnell 只有 4 步,编码阶段的权重明显上升。

「fp8」在三个地方指三件事

社区里说的 fp8 至少对应三种东西,混着看就会算错容量。

第一种是 fp8 单文件 checkpoint,权重以 fp8 存储,加载后转 half 参与计算。第二种是文本编码器的 fp8 版本,只影响 T5 那 4.89GB。第三种是 ComfyUI 的 --fp8_e4m3fn-unet 参数,把 UNet 权重转成 fp8 放进显存。

三者都不等于「用 fp8 计算」。ComfyUI 里有一个 --supports-fp8-compute 开关,作用是让程序按「设备支持 fp8 计算」来处理;默认它是关闭的,是否开启由设备能力判断。XPU 上走这条分支能不能加速,目前没有公开数据,别把开关当成性能承诺。

所以看到「fp8 在 Intel 上有加速」的说法,先分清说的是省显存还是省时间。在这套栈里,默认答案是前者。

三档卡怎么配

下表按「峰值权重 + 2GB 余量」估。2GB 是给激活、注意力缓冲和驱动预留的经验值,不是实测数字。

卡配置峰值权重结论
12GB(B580)DiT Q4_K_S + T5 fp811.70(分阶段后约 8.8)可行,1024 能出图
12GBDiT Q3_K_S + T5 fp810.12(分阶段后约 7.2)更宽裕,细节有损
12GBfp8 单文件 17.25GB17.25装不下,除非大量卸载到内存
16GB(A770)DiT Q6_K + T5 fp814.75(分阶段后约 11.9)可行
16GBfp8 单文件 17.25GB17.25差一点,需卸载
24GB(Pro B60)fp8 单文件17.25可行,留约 6GB
24GBDiT Q8_0 + T5 fp1622.50(分阶段后约 14.7)可行,提示词质量更好
任意fp16 原始权重 34.18GB34.18单卡不可行

24GB 那一行值得展开。DiT 用 Q8_0(12.71GB)配 T5 fp16(9.79GB),两者之和 22.5GB 超过 24GB 卡的可用值,但分阶段执行时峰值只有 14.7GB。省下的空间可以用来把 T5 提到 fp16,提示词遵循会好一些,尤其是长提示词和文字渲染。

表里最后一行也别忽略:fp16 原始权重 34.18GB,连 32GB 的 Pro 卡都差 2GB 出头。也就是说这一档在单卡上不存在,只有多卡拆分或者卸载到内存才谈得上,而后者会把出图时间推到不可用的程度。

三步降级

第一步:换量化格式

降级不是从分辨率开始,是从权重格式开始,因为这一步的收益最大、画质损失最小。

顺序是 fp16 → fp8 → GGUF Q8_0 → Q6_K → Q4_K_S → Q3_K_S。从 34.18GB 一路降到 10.71GB,跨度三倍多。

fp8 和 GGUF 的区别在实现上。fp8 是把权重存成 8 bit 浮点,加载后转回 half 参与计算;GGUF 是分块量化,每一步都要反量化。前者省显存不掉速太多,后者省得更多但每步都有额外开销。

在 Arc 上还有一层:ComfyUI 的 fp8 是存储格式,不等于启用了 fp8 计算。真正参与矩阵乘法的仍是 half,所以别指望换 fp8 能提速,它只解决容量。

GGUF 需要额外的自定义节点才能加载。这条路径能跑,但目前没有针对 Arc 的公开性能数据,实际速度取决于反量化的实现效率,只能自己试。

降级的边界也要说清。量化档位越低,高频细节的损失越早出现,文字边缘、细密纹理、皮肤这类连续渐变区域是最先能看出来的地方。

具体到哪一档开始不能接受,取决于用途,没有统一阈值——出构图草案,Q3 够用;最终交付,建议停在 Q4 以上。

第二步:换文本编码器精度

T5 从 fp16 换到 fp8,省 4.9GB,这是单项收益最大的一刀。

代价比想象的小。T5 只做一次前向,把提示词变成条件向量,它的输出精度对最终图像的影响,远小于 DiT 权重的精度。ComfyUI 的官方 Flux 教程里,显存不足时建议的第一件事就是把 T5 换成 fp8 版本。

反过来说,如果你有 24GB,把 T5 提回 fp16 是性价比很高的升级——不增加去噪时间,只增加编码阶段的峰值。

CLIP-L 只有 0.25GB,没有降级的必要。VAE 0.34GB 同理,它的精度问题表现在出图颜色上,不在容量上。

第三步:分辨率与分块

前两步做完还不够,才动分辨率。

1024×1024 是 Flux 的训练分辨率,降到 896 或 768 会损失细节,但显存和时间的收益是平方级的。768 的面积是 1024 的 56%,峰值激活大约减半。

比降分辨率更好的选择是保持 1024、把批量降到 1、关掉放大链。批量从 2 降到 1 能省掉一半的激活占用,权重不变,画质也不变,只是出图速度按张数算。

VAE 解码阶段也有峰值。1024×1024 的潜变量解码成图像时,中间张量不小,低显存模式下 ComfyUI 会自动分块解码。手动加 --fp32-vae 会让这一步更吃显存,但能解决黑图和色偏——两件事要分开判断,别为了修颜色把容量撑爆。

三步走完还是不够,说明这张卡的容量和你的分辨率目标不匹配。这时候降步数没有用:步数只影响时间,不影响峰值;影响峰值的是分辨率、批量和模型精度。分清这一点,能省掉很多无效尝试。

出图时间的量级

第三方在 B580 上用 XPU 容器实测(Linux + Mesa,预热后只计推理):Flux1 dev fp8、1024×1024、20 步约 35 秒;Flux1 schnell、4 步约 8 秒。

这两个数说明一件事:Flux 的时间几乎全花在步数上。dev 的 20 步是 schnell 的 5 倍,耗时是 4 倍多,单步成本接近。

12GB 卡走 GGUF Q4 路线会更慢。每步多一次反量化,加上权重可能有一部分在内存里,实际耗时大概率落在分钟级,而不是几十秒。这是容量换来的代价,不是配置错误。

24GB 卡跑 fp8 单文件,量级和上面 B580 的 35 秒接近,可能更快一些,因为不用卸载。但不要把这个数当承诺——驱动版本、ComfyUI 版本、提示词长度都会影响结果。

schnell 还是 dev

如果只是要「在 Arc 上出一张能看的图」,schnell 是更合理的选择。4 步、Apache 2.0 许可、体积和 dev 一样,耗时只有四分之一左右。

dev 的优势在提示词遵循和细节,代价是 20 到 50 步。12GB 卡上跑 dev,等于用分钟级等待换质量提升,值不值取决于用途。

还有一个折中:schnell 出草图定构图,选定之后再用 dev 精修那一张。这样大部分试错成本落在 4 步的模型上。

一次跑十张怎么排

ComfyUI 的队列不会为每张图重新加载模型,前提是显存够用。批量跑时把 batch_size 留在 1,用队列排十次,比把 batch_size 设成 10 稳——后者让激活按十份算,12GB 卡基本撑不住。

每张之间留一点间隔。显存一旦溢出,ComfyUI 通常不是立刻崩溃,而是后续队列全部报 UR_RESULT_ERROR_DEVICE_LOST,必须重启进程才能恢复。这个报错文本里没有「显存不足」,但根因通常是上一张的峰值把显存吃干净了。

省事的做法是分两轮:第一轮用 schnell 按 1024 全出草图,挑中的再用 dev 重跑。十张图的成本大约是一张 dev 加九张 schnell,而不是十张 dev。

先想清楚要的是哪种「跑得动」

三种诉求对应三种配置,别用一套标准衡量。

偶尔出一张、能接受分钟级等待:12GB 卡配 Q4 加 schnell,四步出草图,满意了再用 dev 重跑那一张。这条路线成本最低,体验也最接近「能用」。

每天出几十张、要固定风格:16GB 卡上 Q6,或者 24GB 卡上 fp8 单文件。差别在等待时间,不在能不能出。

批量跑、可以过夜:12GB 卡也够,队列排着,用 schnell 全量出图,第二天早上收。

不要为了「以后可能跑 Flux」提前升级到 24GB。先用手上的卡把 schnell 跑通,跑一周,知道自己一天要出多少张、愿意等多久,再决定要不要换。多数人的真实需求落在第一档,而第一档 12GB 就能满足。

怎么确认是显存问题而不是别的问题

三个信号。

第一,崩在哪个阶段。文本编码阶段崩,是 T5 加 CLIP 放不下;第一步去噪就崩,是 DiT 加激活超了;最后解码崩,是 VAE 峰值。三个阶段对应三种降级手段,别一上来就全降。

第二,报错里的容量数字。如果「total capacity」比你要分配的还大,那不是真的不够,是单次分配上限撞到了 4GiB 左右的天花板,设 UR_L0_ENABLE_RELAXED_ALLOCATION_LIMITS=1 再看。

第三,出图之后的显存曲线。任务管理器里「专用 GPU 内存」在出图后应该回落。不回落说明模型没被释放,下一张图会在更小的空间里跑,越跑越慢。

Flux 的容量估算可以套用本地跑大模型要多少显存里的分段方法,只是把「权重 + KV」换成「DiT + 文本编码器 + VAE」。整机配置的门槛,ComfyUI 对电脑配置要求那篇按档位列过,可以对照着看自己落在哪一档。

真正要先想清楚的是用途。如果只是偶尔出几张图,API 或在线服务更省事;如果要批量跑、要固定风格、数据不能出内网,本地这套降级路径才成立。

登录后可点赞、收藏与反馈。

继续阅读 NEXT

更多 →