Flux.1 Dev 文生图:ComfyUI 完整指南与工作流

Flux.1 Dev 文生图 ComfyUI 分步教程。学习模型安装、环境配置、提示词优化与工作流设置,生成高质量 AI 图像。

本指南介绍如何在 Windows 电脑上设置 ComfyUI 以运行 Flux.1。它涵盖以下主题:

  • Flux.1 简介
  • Flux.1 不同版本概览
  • Flux 硬件要求
  • 如何在 ComfyUI 中安装和使用 Flux.1
  • Flux.1 相关资源,例如 LoRA、ControlNet 等

在本文中,我将介绍 Flux 模型的不同版本,主要是官方版本和第三方蒸馏版本。此外,ComfyUI 还提供了单文件 FP8 版本。

  • 教程的第一部分将主要讲解官方版本和第三方蒸馏版本,这些版本需要安装更多相关模型。
  • 第二部分将使用 ComfyUI 的 FP8 版本,只需安装一个 Checkpoint 模型即可直接使用。

Flux.1 简介

Flux.1 是由 Black Forest Labs(黑森林实验室)推出的文生图模型套件,这家实验室在文生图生成和语言理解方面能力出众。Flux.1 在视觉质量和图像细节上表现优异,尤其在文字生成、复杂构图和手部描绘方面格外出色。该模型对手部细节进行了优化,相比 Stable Diffusion 模型常见的畸形手指有了显著改善。Flux.1 还提升了图像质量,缩小了与顶尖文生图软件 Midjourney 之间的差距。

Black Forest Labs 由 Stability AI 前核心成员 Robin Rombach 创立。

Black Forest Labs 官网:https://blackforestlabs.ai/

安装或更新 ComfyUI

要在 ComfyUI 中使用 Flux.1,你需要升级到最新的 ComfyUI 版本。如果你还没有更新 ComfyUI,可以参考以下文章进行升级或安装。

第 1 部分:Flux.1 的官方版本与蒸馏版本

Flux.1 官方模型

以下列出了 Flux.1 官方目前发布的 3 个版本,但官方版本对硬件要求较高。目前已有许多硬件要求更低的开源版本可供选择,你可以根据自己的需求挑选。

特性/版本Flux.1 ProFlux.1 DevFlux.1 Schnell
概述图像生成性能处于前沿水平,具备一流的提示词遵循能力、视觉质量、图像细节和输出多样性。开源模型,质量与提示词遵循能力与 Pro 相近,对拥有 GPU 的用户更高效。开源模型,本地开发与个人使用的最快选择,响应迅速且配置要求低。
视觉质量顶级与 Pro 相近良好
图像细节顶级与 Pro 相近良好
输出多样性高中中
提示词遵循高中中
手部细节优化是是是
价格(每张图像)$0.055API:$0.03,可免费下载API:$0.003,可免费下载
许可证类型企业解决方案,仅提供 API开源,FLUX.1-dev 非商业许可证Apache2.0,允许商业使用
模型下载不可下载可下载 Flux.1 Dev GitHub 仓库、Flux.1 Dev Hugging Face可下载 Flux.1 Schnell GitHub 仓库、Flux.1 Schnell Hugging Face
API 访问FLUX.1 [pro] API、Flux.1 Pro Replicate API、Flux.1 Pro FAL AI API、Flux.1 Pro Mystic AI APIFlux.1 Dev Replicate API、Flux.1 Dev FAL AI API、Mystic AIFlux.1 Schnell Replicate API、在 FAL AI 上试用 Flux.1 Schnell、Flux.1 Schnell Mystic AI API
使用场景专业用途、企业定制开发与个人使用个人与商业使用

更多信息请访问 Flux.1 仓库:https://github.com/black-forest-labs/flux

Flux.1 ComfyUI 硬件要求

最低显存:8-12GB 及以上(生成速度较慢) 推荐显存:16-24GB

目前,社区中存在许多硬件要求更低的开源版本,例如 GGUF 版本,其最低显存要求仅为 6GB。

Flux.1 官方版本与开源社区版本下载地址

Flux.1 目前官方共发布了 3 个模型,但只有 Dev 和 Schnell 版本是开源的。由于 Flux 对硬件要求较高,开源社区基于原始版本迭代出了许多版本,主要包括:

如果后续有新版本发布,我也会在本文中同步更新,所以别忘了收藏本文。不同版本对应的信息如下。虽然表格中提供了下载链接,但我建议根据不同的工作流分别下载模型,而不是直接下载表格中对应的模型文件。

作者模型名商业使用ControlNet 和 LoRA 支持特性显存需求文件大小下载地址
Black Forest LabsFlux.1 Dev否支持需要单独下载 CLIP、VAE、U-Net16GB+23.8GB下载
Black Forest LabsFlux.1 Schnell是支持需要单独下载 CLIP、VAE、U-Net16GB+23.8GB下载
ComfyUIFlux.1 Dev FP8否支持已合并 CLIP 和 VAE,只需下载一个模型8GB+17.2GB下载
ComfyUIFlux.1 Schnell FP8是支持已合并 CLIP 和 VAE,只需下载一个模型8GB+17.2GB下载
KijaiFlux.1 Dev FP8否支持已合并 CLIP 和 VAE,只需下载一个模型8GB+下载
KijaiFlux.1 Schnell FP8是支持已合并 CLIP 和 VAE,只需下载一个模型8GB+下载
lllyasvielFlux.1 Dev BNB NF4 V1否支持已合并 CLIP 和 VAE,只需下载一个模型,需要安装 ComfyUI_bitsandbytes_NF4 插件6GB+11.5GB下载
lllyasvielFlux.1 Dev BNB NF4 V2否支持已合并 CLIP 和 VAE,只需下载一个模型,需要安装 ComfyUI_bitsandbytes_NF4 插件6GB+12GB下载
City96Flux.1 Dev GGUF否支持需要单独下载 CLIP、VAE、U-Net,并且需要安装 ComfyUI-GGUF 插件6GB+12GB下载
City96Flux.1 Schnell GGUF是支持需要单独下载 CLIP、VAE、U-Net,并且需要安装 ComfyUI-GGUF 插件6GB+12GB下载

如果你想在 ComfyUI 中使用 Flux.1,需要升级到最新的 ComfyUI 版本。如果你还没有更新 ComfyUI,可以参考下面的文章进行升级或安装。

下面是 4 个不同版本的 Flux.1 工作流。如果你的电脑显存容量较大,可以考虑使用 Flux.1 原始版本工作流。如果电脑显存较小或性能不足,建议直接使用 GGUF 版本工作流。

原始版本 Flux.1 ComfyUI 工作流指南

原始版本的工作流更为复杂,需要安装多个文件。本教程包含两个部分:

  • 下载并安装 CLIP、VAE、UNET 模型
  • Flux.1 原始版本复杂工作流,包括 Dev 和 Schnell 版本,以及低内存版本工作流示例

第一部分:下载并安装 CLIP、VAE、UNET 模型

下载 ComfyUI flux_text_encoders CLIP 模型

Hugging Face 上的 ComfyUI flux_text_encoders

模型文件名大小说明链接
clip_l.safetensors246 MB下载
t5xxl_fp8_e4m3fn.safetensors(推荐)4.89 GB适用于较低内存占用(8-12GB)下载
t5xxl_fp16.safetensors9.79 GB想要更好的效果,并且拥有较高的显存和内存(超过 32GB 内存)时使用。下载
  1. 下载 clip_l.safetensors
  2. 根据你的显存和内存情况,下载 t5xxl_fp8_e4m3fn.safetensors 或 t5xxl_fp16.safetensors
  3. 将下载的模型文件放入 ComfyUI/models/clip/ 文件夹。 注意:如果你之前使用过 SD 3 Medium,可能已经拥有上述两个模型

下载 FLux.1 VAE 模型

Hugging Face 上的 FLUX.1-schnell

文件名大小链接
ae.safetensors335 MB下载
  1. 已下载 ae.safetensors 模型。
  2. 将下载的模型文件放入 ComfyUI/models 文件夹。
  3. 为了方便识别,你可以将其重命名为 flux_ae.safetensors;

下载 FLux.1 UNET 模型

Hugging Face 上的 FLUX.1-schnell

文件名大小链接说明
flux1-schnell.safetensors23.8GB下载适用于较低内存占用
flux1-dev.safetensors23.8GB下载如果你拥有较高的显存和内存。
  1. 已下载 flux1-schnell.safetensors
  2. 将下载的模型文件放入 ComfyUI/models/unet/ 文件夹

第二部分:Flux.1 ComfyUI 原始工作流示例

ComfyUI 官方 Flux.1 工作流示例:https://comfyanonymous.github.io/ComfyUI_examples/flux/ 你只需保存图片并加载到 Comfy 中即可!

Flux Dev ComfyUI 工作流示例

Flux Schnell ComfyUI 工作流示例

12GB VRAM 以下的 Flux

https://civitai.com/posts/5006398

Comfy ORG FP8 Checkpoint 版本

以下 Checkpoint 模型由 ComfyUI Org 提供,你只需要下载一个模型文件,即可直接使用。

模型名称文件大小下载链接
flux1-dev-fp817.2GB下载
flux1-schnell-fp817.2GB下载
  1. 下载你需要的模型版本
  2. 放置在 ComfyUI/models/checkpoints/ 目录下

你也可以使用 Kijai Flux-FP8 ,由于文件名称相似,建议下载之后重命名文件,或创建单独的文件夹以便区分。

Flux dev FP8 Checkpoint 版本工作流示例

Flux Schnell FP8 Checkpoint 版本工作流示例

NF4 版本 Flux.1 工作流

作者:lllyasviel 首先,你需要安装对应的插件:https://github.com/comfyanonymous/ComfyUI_bitsandbytes_NF4 插件安装说明可参见 ComfyUI 插件安装指南

NF4 版本模型下载

模型名地址
flux1-dev-bnb-nf4下载

lllyasviel 制作了两个版本的 NF4 Flux 模型,请直接下载 V2 版本,该版本的细节和效果更好

  1. 安装 ComfyUI_bitsandbytes_NF4 插件,如果不知道如何安装插件,可以参考 ComfyUI 插件安装指南
  2. 下载 flux1-dev-bnb-nf4-v2 文件,并将下载的文件放入 comfyui/models/checkpoints 目录

NF4 版本 Flux.1 工作流示例

GGUF 版本 Flux.1 工作流

作者:City96 项目地址:https://github.com/city96/ComfyUI-GGUF

City96 提供了多个 GGUF 版本的 Flux 模型。如果你不知道该从对应仓库下载哪个版本,这里有一份简单的指南: - Q 后面的数字越大,所需的显存越多,生成的图像质量也越高。例如,Q2 需要的显存较少,但生成的图像质量较低;Q8 需要的显存较多,但生成的图像质量更高。 - 你也可以通过模型文件的大小来判断质量;通常文件越大,代表质量越高,所需的显存也越多。

安装插件并下载模型

  1. 下载 Flux GGUF dev 模型 或 Flux GGUF schnell 模型,并将模型文件放入 comfyui/models 目录。
  2. 下载 t5-v1_1-xxl-encoder-gguf,并将模型文件放入 comfyui/models/clip 目录。
  3. 下载 clip_l.safetensors,并将模型文件放入 comfyui/models/clip 目录。
  4. 下载 ae.safetensors,将模型文件放入 comfyui/models 目录,并重命名为 flux_ae.safetensors。
  5. 安装 ComfyUI-GGUF 插件,如果你不知道如何安装插件,可以参考 ComfyUI 插件安装指南

GGUF 版本 Flux.1 工作流示例

在线运行 Flux.1

以下是 Black Forest Labs 提供的用于使用或调用 Flux.1 模型的一些在线方式。

huggingface FLUX.1-dev: https://huggingface.co/spaces/black-forest-labs/FLUX.1-dev
huggingface FLUX.1-schnell: https://huggingface.co/spaces/black-forest-labs/FLUX.1-schnell
replicate: https://replicate.com/black-forest-labs
mystic.ai: https://www.mystic.ai/black-forest-labs
fal.ai: https://fal.ai/models/fal-ai/flux/schnell

ComfyUI 与 Windows 系统配置调整

以下步骤旨在优化您的 Windows 系统设置,让您能够充分利用系统资源。此外,在使用 ComfyUI 运行 Flux.1 模型时,请避免同时运行其他软件,以尽量减少内存占用。

Windows 虚拟内存设置

Windows 虚拟内存设置

故障排除

  1. 内存不足警告

使用 single file fp8 版本

  1. 解决性能问题
    https://github.com/comfyanonymous/ComfyUI/discussions/4457

Flux.1 资源

点击这里查看更多 Flux 资源

Flux GGUF 量化版本

GGUF 量化版本在这里:https://huggingface.co/city96/FLUX.1-dev-gguf 以下是加载它们所需的节点:https://github.com/city96/ComfyUI-GGUF 来源:https://www.reddit.com/r/StableDiffusion/comments/1eslcg0/excuse_me_gguf_quants_are_possible_on_flux_now/

Flux LoRA

https://huggingface.co/XLabs-AI/flux-RealismLora 由 Black Forest Labs 提供的 FLUX.1-dev 模型写实风格 LoRA https://huggingface.co/alvdansen/frosting_lane_flux alvdansen/frosting_lane_flux https://huggingface.co/alvdansen/softserve_anime alvdansen/softserve_anime https://huggingface.co/davisbro/half_illustration davisbro/half_illustration https://huggingface.co/Shakker-Labs/FLUX.1-dev-LoRA-AntiBlur AntiBlur Flux.1 LoRA 及其他资源,你可以在 civitai 上下载 XLabs-AI/flux-lora-collection:https://huggingface.co/XLabs-AI/flux-lora-collection

提示:最新版本的 ComfyUI 在使用多个 FLUX LoRA 模型时容易占用过多显存,而且该问题与 LoRA 模型的大小无关。即便是 NVIDIA GeForce RTX 4090 这样的高端显卡也容易出现类似问题。 你可以考虑使用 GGUF 版本的模型,或者改用 Xlab 的 LoRA 来加载 ComfyUI 工作流,作为该问题的潜在解决方案。

Flux LoRA 在线训练工具

极其简单的 Web UI,用于训练 FLUX LoRA,支持低显存(12GB/16GB/20GB)。 https://github.com/cocktailpeanut/fluxgym

Flux LoRA 在线训练工具(Flux.1 资源)

Replicate 提供了一款名为“ostris/flux-dev-lora-trainer”的训练工具,最少只需 10 张图像就能训练你自己的 LoRA 风格模型。你可以试一试。

  • 价格:该模型的训练运行在 Nvidia H100 GPU 硬件上,费用为每秒 $0.001528。
  • 如何训练:阅读这份文档
  • 许可证:所有 Flux-Dev LoRA 均与 FLUX.1-dev 的原始基础模型采用相同的许可证

Ostris 的 FLUX.1 训练 https://colab.research.google.com/drive/1r09aImgL1YhQsJgsLWnb67-bjTV88-W0 FAI 的 Train Flux LoRA https://fal.ai/models/fal-ai/flux-lora-general-training?a=1 FLUX.1 [dev] 的 DreamBooth 训练示例 https://github.com/huggingface/diffusers/blob/main/examples/dreambooth/README_flux.md

Flux ControlNet

Flux ControlNet 合集:https://huggingface.co/XLabs-AI/flux-controlnet-collections InstantX Flux Union ControlNet:https://huggingface.co/InstantX/FLUX.1-dev-Controlnet-Union-alpha FLUX-Controlnet-Inpainting:https://github.com/alimama-creative/FLUX-Controlnet-Inpainting

Flux IP-Adapter

由 Black Forest Labs 提供的 FLUX.1-dev 模型 IP-Adapter checkpoint https://huggingface.co/XLabs-AI/flux-ip-adapter

Flux 工作流示例

在以下地址查找更多工作流示例:https://openart.ai/workflows/all?keyword=flux

评论

使用 GitHub 登录后即可参与讨论。

评论加载中…