Flux.1 Dev 文生图:ComfyUI 完整指南与工作流
Flux.1 Dev 文生图 ComfyUI 分步教程。学习模型安装、环境配置、提示词优化与工作流设置,生成高质量 AI 图像。
本指南介绍如何在 Windows 电脑上设置 ComfyUI 以运行 Flux.1。它涵盖以下主题:
- Flux.1 简介
- Flux.1 不同版本概览
- Flux 硬件要求
- 如何在 ComfyUI 中安装和使用 Flux.1
- Flux.1 相关资源,例如 LoRA、ControlNet 等
在本文中,我将介绍 Flux 模型的不同版本,主要是官方版本和第三方蒸馏版本。此外,ComfyUI 还提供了单文件 FP8 版本。
- 教程的第一部分将主要讲解官方版本和第三方蒸馏版本,这些版本需要安装更多相关模型。
- 第二部分将使用 ComfyUI 的 FP8 版本,只需安装一个 Checkpoint 模型即可直接使用。
Flux.1 简介
Flux.1 是由 Black Forest Labs(黑森林实验室)推出的文生图模型套件,这家实验室在文生图生成和语言理解方面能力出众。Flux.1 在视觉质量和图像细节上表现优异,尤其在文字生成、复杂构图和手部描绘方面格外出色。该模型对手部细节进行了优化,相比 Stable Diffusion 模型常见的畸形手指有了显著改善。Flux.1 还提升了图像质量,缩小了与顶尖文生图软件 Midjourney 之间的差距。
Black Forest Labs 由 Stability AI 前核心成员 Robin Rombach 创立。
Black Forest Labs 官网:https://blackforestlabs.ai/
安装或更新 ComfyUI
要在 ComfyUI 中使用 Flux.1,你需要升级到最新的 ComfyUI 版本。如果你还没有更新 ComfyUI,可以参考以下文章进行升级或安装。
第 1 部分:Flux.1 的官方版本与蒸馏版本
Flux.1 官方模型
以下列出了 Flux.1 官方目前发布的 3 个版本,但官方版本对硬件要求较高。目前已有许多硬件要求更低的开源版本可供选择,你可以根据自己的需求挑选。
| 特性/版本 | Flux.1 Pro | Flux.1 Dev | Flux.1 Schnell |
|---|---|---|---|
| 概述 | 图像生成性能处于前沿水平,具备一流的提示词遵循能力、视觉质量、图像细节和输出多样性。 | 开源模型,质量与提示词遵循能力与 Pro 相近,对拥有 GPU 的用户更高效。 | 开源模型,本地开发与个人使用的最快选择,响应迅速且配置要求低。 |
| 视觉质量 | 顶级 | 与 Pro 相近 | 良好 |
| 图像细节 | 顶级 | 与 Pro 相近 | 良好 |
| 输出多样性 | 高 | 中 | 中 |
| 提示词遵循 | 高 | 中 | 中 |
| 手部细节优化 | 是 | 是 | 是 |
| 价格(每张图像) | $0.055 | API:$0.03,可免费下载 | API:$0.003,可免费下载 |
| 许可证类型 | 企业解决方案,仅提供 API | 开源,FLUX.1-dev 非商业许可证 | Apache2.0,允许商业使用 |
| 模型下载 | 不可下载 | 可下载 Flux.1 Dev GitHub 仓库、Flux.1 Dev Hugging Face | 可下载 Flux.1 Schnell GitHub 仓库、Flux.1 Schnell Hugging Face |
| API 访问 | FLUX.1 [pro] API、Flux.1 Pro Replicate API、Flux.1 Pro FAL AI API、Flux.1 Pro Mystic AI API | Flux.1 Dev Replicate API、Flux.1 Dev FAL AI API、Mystic AI | Flux.1 Schnell Replicate API、在 FAL AI 上试用 Flux.1 Schnell、Flux.1 Schnell Mystic AI API |
| 使用场景 | 专业用途、企业定制 | 开发与个人使用 | 个人与商业使用 |
更多信息请访问 Flux.1 仓库:https://github.com/black-forest-labs/flux
Flux.1 ComfyUI 硬件要求
最低显存:8-12GB 及以上(生成速度较慢) 推荐显存:16-24GB
目前,社区中存在许多硬件要求更低的开源版本,例如 GGUF 版本,其最低显存要求仅为 6GB。
Flux.1 官方版本与开源社区版本下载地址
Flux.1 目前官方共发布了 3 个模型,但只有 Dev 和 Schnell 版本是开源的。由于 Flux 对硬件要求较高,开源社区基于原始版本迭代出了许多版本,主要包括:
- Black Forest Labs 官方版本 dev 、 schnell
- ComfyUI FP8 版本 dev 、schnell
- Kijai FP8 版本 flux-fp8
- lllyasviel BNB NF4 V2 版本 dev
- City96 GGUF 版本 dev 、 schnell
如果后续有新版本发布,我也会在本文中同步更新,所以别忘了收藏本文。不同版本对应的信息如下。虽然表格中提供了下载链接,但我建议根据不同的工作流分别下载模型,而不是直接下载表格中对应的模型文件。
| 作者 | 模型名 | 商业使用 | ControlNet 和 LoRA 支持 | 特性 | 显存需求 | 文件大小 | 下载地址 |
|---|---|---|---|---|---|---|---|
| Black Forest Labs | Flux.1 Dev | 否 | 支持 | 需要单独下载 CLIP、VAE、U-Net | 16GB+ | 23.8GB | 下载 |
| Black Forest Labs | Flux.1 Schnell | 是 | 支持 | 需要单独下载 CLIP、VAE、U-Net | 16GB+ | 23.8GB | 下载 |
| ComfyUI | Flux.1 Dev FP8 | 否 | 支持 | 已合并 CLIP 和 VAE,只需下载一个模型 | 8GB+ | 17.2GB | 下载 |
| ComfyUI | Flux.1 Schnell FP8 | 是 | 支持 | 已合并 CLIP 和 VAE,只需下载一个模型 | 8GB+ | 17.2GB | 下载 |
| Kijai | Flux.1 Dev FP8 | 否 | 支持 | 已合并 CLIP 和 VAE,只需下载一个模型 | 8GB+ | 下载 | |
| Kijai | Flux.1 Schnell FP8 | 是 | 支持 | 已合并 CLIP 和 VAE,只需下载一个模型 | 8GB+ | 下载 | |
| lllyasviel | Flux.1 Dev BNB NF4 V1 | 否 | 支持 | 已合并 CLIP 和 VAE,只需下载一个模型,需要安装 ComfyUI_bitsandbytes_NF4 插件 | 6GB+ | 11.5GB | 下载 |
| lllyasviel | Flux.1 Dev BNB NF4 V2 | 否 | 支持 | 已合并 CLIP 和 VAE,只需下载一个模型,需要安装 ComfyUI_bitsandbytes_NF4 插件 | 6GB+ | 12GB | 下载 |
| City96 | Flux.1 Dev GGUF | 否 | 支持 | 需要单独下载 CLIP、VAE、U-Net,并且需要安装 ComfyUI-GGUF 插件 | 6GB+ | 12GB | 下载 |
| City96 | Flux.1 Schnell GGUF | 是 | 支持 | 需要单独下载 CLIP、VAE、U-Net,并且需要安装 ComfyUI-GGUF 插件 | 6GB+ | 12GB | 下载 |
如果你想在 ComfyUI 中使用 Flux.1,需要升级到最新的 ComfyUI 版本。如果你还没有更新 ComfyUI,可以参考下面的文章进行升级或安装。
原始版本 Flux.1 ComfyUI 工作流指南
原始版本的工作流更为复杂,需要安装多个文件。本教程包含两个部分:
- 下载并安装 CLIP、VAE、UNET 模型
- Flux.1 原始版本复杂工作流,包括 Dev 和 Schnell 版本,以及低内存版本工作流示例
第一部分:下载并安装 CLIP、VAE、UNET 模型
下载 ComfyUI flux_text_encoders CLIP 模型
Hugging Face 上的 ComfyUI flux_text_encoders
| 模型文件名 | 大小 | 说明 | 链接 |
|---|---|---|---|
clip_l.safetensors | 246 MB | 下载 | |
t5xxl_fp8_e4m3fn.safetensors(推荐) | 4.89 GB | 适用于较低内存占用(8-12GB) | 下载 |
t5xxl_fp16.safetensors | 9.79 GB | 想要更好的效果,并且拥有较高的显存和内存(超过 32GB 内存)时使用。 | 下载 |
- 下载 clip_l.safetensors
- 根据你的显存和内存情况,下载 t5xxl_fp8_e4m3fn.safetensors 或 t5xxl_fp16.safetensors
- 将下载的模型文件放入
ComfyUI/models/clip/文件夹。 注意:如果你之前使用过 SD 3 Medium,可能已经拥有上述两个模型
下载 FLux.1 VAE 模型
Hugging Face 上的 FLUX.1-schnell
| 文件名 | 大小 | 链接 |
|---|---|---|
ae.safetensors | 335 MB | 下载 |
- 已下载
ae.safetensors模型。 - 将下载的模型文件放入
ComfyUI/models文件夹。 - 为了方便识别,你可以将其重命名为
flux_ae.safetensors;
下载 FLux.1 UNET 模型
Hugging Face 上的 FLUX.1-schnell
- 已下载
flux1-schnell.safetensors - 将下载的模型文件放入
ComfyUI/models/unet/文件夹
第二部分:Flux.1 ComfyUI 原始工作流示例
ComfyUI 官方 Flux.1 工作流示例:https://comfyanonymous.github.io/ComfyUI_examples/flux/ 你只需保存图片并加载到 Comfy 中即可!
Flux Dev ComfyUI 工作流示例
Flux Schnell ComfyUI 工作流示例
12GB VRAM 以下的 Flux
https://civitai.com/posts/5006398
Comfy ORG FP8 Checkpoint 版本
以下 Checkpoint 模型由 ComfyUI Org 提供,你只需要下载一个模型文件,即可直接使用。
- 下载你需要的模型版本
- 放置在
ComfyUI/models/checkpoints/目录下
你也可以使用 Kijai Flux-FP8 ,由于文件名称相似,建议下载之后重命名文件,或创建单独的文件夹以便区分。
Flux dev FP8 Checkpoint 版本工作流示例
Flux Schnell FP8 Checkpoint 版本工作流示例
NF4 版本 Flux.1 工作流
作者:lllyasviel 首先,你需要安装对应的插件:https://github.com/comfyanonymous/ComfyUI_bitsandbytes_NF4 插件安装说明可参见 ComfyUI 插件安装指南
NF4 版本模型下载
| 模型名 | 地址 |
|---|---|
| flux1-dev-bnb-nf4 | 下载 |
lllyasviel 制作了两个版本的 NF4 Flux 模型,请直接下载 V2 版本,该版本的细节和效果更好
- 安装 ComfyUI_bitsandbytes_NF4 插件,如果不知道如何安装插件,可以参考 ComfyUI 插件安装指南
- 下载 flux1-dev-bnb-nf4-v2 文件,并将下载的文件放入
comfyui/models/checkpoints目录
NF4 版本 Flux.1 工作流示例
GGUF 版本 Flux.1 工作流
作者:City96 项目地址:https://github.com/city96/ComfyUI-GGUF
安装插件并下载模型
- 下载 Flux GGUF dev 模型 或 Flux GGUF schnell 模型,并将模型文件放入
comfyui/models目录。 - 下载 t5-v1_1-xxl-encoder-gguf,并将模型文件放入
comfyui/models/clip目录。 - 下载 clip_l.safetensors,并将模型文件放入
comfyui/models/clip目录。 - 下载 ae.safetensors,将模型文件放入
comfyui/models目录,并重命名为flux_ae.safetensors。 - 安装 ComfyUI-GGUF 插件,如果你不知道如何安装插件,可以参考 ComfyUI 插件安装指南
GGUF 版本 Flux.1 工作流示例
在线运行 Flux.1
以下是 Black Forest Labs 提供的用于使用或调用 Flux.1 模型的一些在线方式。
huggingface FLUX.1-dev: https://huggingface.co/spaces/black-forest-labs/FLUX.1-dev
huggingface FLUX.1-schnell: https://huggingface.co/spaces/black-forest-labs/FLUX.1-schnell
replicate: https://replicate.com/black-forest-labs
mystic.ai: https://www.mystic.ai/black-forest-labs
fal.ai: https://fal.ai/models/fal-ai/flux/schnell
ComfyUI 与 Windows 系统配置调整
以下步骤旨在优化您的 Windows 系统设置,让您能够充分利用系统资源。此外,在使用 ComfyUI 运行 Flux.1 模型时,请避免同时运行其他软件,以尽量减少内存占用。
Windows 虚拟内存设置
故障排除
- 内存不足警告
使用 single file fp8 版本
Flux.1 资源
Flux GGUF 量化版本
GGUF 量化版本在这里:https://huggingface.co/city96/FLUX.1-dev-gguf 以下是加载它们所需的节点:https://github.com/city96/ComfyUI-GGUF 来源:https://www.reddit.com/r/StableDiffusion/comments/1eslcg0/excuse_me_gguf_quants_are_possible_on_flux_now/
Flux LoRA
https://huggingface.co/XLabs-AI/flux-RealismLora 由 Black Forest Labs 提供的 FLUX.1-dev 模型写实风格 LoRA https://huggingface.co/alvdansen/frosting_lane_flux alvdansen/frosting_lane_flux https://huggingface.co/alvdansen/softserve_anime alvdansen/softserve_anime https://huggingface.co/davisbro/half_illustration davisbro/half_illustration https://huggingface.co/Shakker-Labs/FLUX.1-dev-LoRA-AntiBlur AntiBlur Flux.1 LoRA 及其他资源,你可以在 civitai 上下载 XLabs-AI/flux-lora-collection:https://huggingface.co/XLabs-AI/flux-lora-collection
提示:最新版本的 ComfyUI 在使用多个 FLUX LoRA 模型时容易占用过多显存,而且该问题与 LoRA 模型的大小无关。即便是 NVIDIA GeForce RTX 4090 这样的高端显卡也容易出现类似问题。 你可以考虑使用 GGUF 版本的模型,或者改用 Xlab 的 LoRA 来加载 ComfyUI 工作流,作为该问题的潜在解决方案。
Flux LoRA 在线训练工具
极其简单的 Web UI,用于训练 FLUX LoRA,支持低显存(12GB/16GB/20GB)。 https://github.com/cocktailpeanut/fluxgym
Flux LoRA 在线训练工具(Flux.1 资源)
Replicate 提供了一款名为“ostris/flux-dev-lora-trainer”的训练工具,最少只需 10 张图像就能训练你自己的 LoRA 风格模型。你可以试一试。
- 价格:该模型的训练运行在 Nvidia H100 GPU 硬件上,费用为每秒 $0.001528。
- 如何训练:阅读这份文档
- 许可证:所有 Flux-Dev LoRA 均与 FLUX.1-dev 的原始基础模型采用相同的许可证
Ostris 的 FLUX.1 训练 https://colab.research.google.com/drive/1r09aImgL1YhQsJgsLWnb67-bjTV88-W0 FAI 的 Train Flux LoRA https://fal.ai/models/fal-ai/flux-lora-general-training?a=1 FLUX.1 [dev] 的 DreamBooth 训练示例 https://github.com/huggingface/diffusers/blob/main/examples/dreambooth/README_flux.md
Flux ControlNet
Flux ControlNet 合集:https://huggingface.co/XLabs-AI/flux-controlnet-collections InstantX Flux Union ControlNet:https://huggingface.co/InstantX/FLUX.1-dev-Controlnet-Union-alpha FLUX-Controlnet-Inpainting:https://github.com/alimama-creative/FLUX-Controlnet-Inpainting
Flux IP-Adapter
由 Black Forest Labs 提供的 FLUX.1-dev 模型 IP-Adapter checkpoint https://huggingface.co/XLabs-AI/flux-ip-adapter
Flux 工作流示例
在以下地址查找更多工作流示例:https://openart.ai/workflows/all?keyword=flux
评论
使用 GitHub 登录后即可参与讨论。