AI Toolkit 新增 Krea 2 参考图像训练:训练编辑概念速度与专用编辑模型相当

news

Ostris 在 AI Toolkit 中推送了对 Krea 2 模型使用参考图像进行训练的支持,实现了编辑风格 LoRA 的训练,仅需 1750 步即可掌握如“把这个做成独眼巨人”这样的概念。

2026 年 7 月 4 日,OstrisAI Toolkit 中推送了对 Krea 2 使用参考图像进行训练的支持。这使得你能够直接在 Krea 2 Turbo 上使用训练适配器训练编辑风格的 LoRA——并且在 Ostris 的测试中,它学习编辑概念的速度与专用编辑模型一样快。

TL;DR —— AI Toolkit 现在通过 HuggingFace 上的训练适配器支持 Krea 2 Turbo 的参考图像训练。编辑风格的 LoRA 仅需 1750 步即可训练完毕。配套的 ComfyUI 推理自定义节点负责参考图像编码和模型修补。同样的架构也适用于基础 Krea 2 模型(Raw)。

工作原理

在底层,训练流程使用 Qwen3-VL 图像编码器将参考图像与提示词一起编码。编码后的参考图像在时间步 0 处与干净的训练图像一同输入到 Krea 2 变换器——这与专用编辑模型使用的参考条件方法相同。

组件描述
训练适配器HuggingFace 上的 ostris/krea2_turbo_training_adapter
训练引擎AI Toolkit——在配置中设置 arch: krea2model_kwargs.edit: true
参考编码Qwen3-VL 图像编码器,缩放至总像素 384×384
掌握所需步数~1750 步(测试概念:"把这个做成独眼巨人")

ComfyUI 推理:需要自定义节点

要在 ComfyUI 中进行推理,你需要 ComfyUI-Krea2-Ostris-Edit 自定义节点包。它提供了两个节点:

Text Encode Krea 2 Ostris Edit —— 将提示词与最多 3 张参考图像一起通过 Krea 2 Qwen3-VL 文本编码器进行编码,使用训练期间相同的 Picture N: 视觉占位符模板。当连接了 VAE 时,它还会对参考图像进行 VAE 编码,并将其作为参考潜变量附加。

Krea 2 Ostris Edit Model Patch —— 修补 Krea 2 模型,使其从条件中消费参考潜变量。每个参考图像被追加到图像令牌序列中,并在时间步 0 处进行条件化(index_timestep_zero 方法)。如果没有参考潜变量,模型行为与原始 Krea 2 完全相同。

安装

cd ComfyUI/custom_nodes
git clone https://github.com/ostris/ComfyUI-Krea2-Ostris-Edit.git

无需额外依赖。节点出现在 ostris/krea2 类别下。

示例工作流

加载扩散模型 (krea2) → 加载 LoRA → Krea 2 Ostris Edit Model Patch → K采样器
CLIP加载器 (krea2) → Text Encode Krea 2 Ostris Edit (提示词 + 图像 + VAE) → 正面条件
CLIP加载器 (krea2) → Text Encode Krea 2 Ostris Edit (负面提示词) → 负面条件

训练设置

要使用 AI Toolkit 训练编辑风格的 Krea 2 LoRA:

  1. 在训练配置中设置 arch: krea2model_kwargs.edit: true
  2. 使用配对训练数据:输入图像 + 编辑后的目标图像 + 文本描述
  3. 适配器会自动从 HuggingFace 下载
  4. 训练在消费级 GPU 上运行,显存需求为标准水平

Ostris 使用一个训练于 Krea 2 Turbo 上的“把这个人物做成独眼巨人”测试 LoRA 演示了这一点——模型在 1750 步内掌握了编辑概念。

基础模型兼容性

同样的参考图像权重也适用于基础 Krea 2 模型(Raw)。正如 Ostris 在回复社区问题时所述:

"是的,权重是一样的。我只是将参考图像通过 Qwen-VL 图像编码器,与提示词一起编码,然后在时间步 0 处将干净图像与变换器一起输入。"

链接

AI Toolkit 新增 Krea 2 参考图像训练:训练编辑概念速度与专用编辑模型相当 | ComfyUI Wiki