Qwen-Image-Flash: NVIDIAによるQwen-Imageの4ステップDMD2蒸留

Qwen-Image-Flashとは？

Qwen-Image-Flashは、NVIDIAによるQwen/Qwen-Imageの4ステップ、DMD2蒸留ビルドです。Improved Distribution Matching DistillationはNVIDIA FastGen、NVIDIA Model Optimizer、NVIDIA AutoModelを通して実行されました。変更されるのはtransformerの重みのみで、Qwen-Imageパイプラインの残りの部分（Qwen2.5-VL text encoder、Qwenトークナイザー、Qwen-Image VAE、60層のtransformer形状）はそのまま継承されています。

• ノイズ除去transformerに20.43Bパラメータ、学習済みパイプライン全体で28.85B
• ベースモデルのフルスケジュールの代わりに4回の関数評価
• 静的shift-3軌跡を持つパッケージ化されたFlowMatch Eulerスケジューラで、シグマ [1.0, 0.9, 0.75, 0.5, 0.0] を生成
• 英語キャプションで蒸留されており、継承された中国語の能力はモデルカードでは評価されていません

蒸留済みチェックポイントの実行

公式リリースはDiffusersチェックポイントであり、蒸留によって教師のガイダンスが内部化されています。サンプリングにはnum_inference_steps=4とtrue_cfg_scale=1.0を併用する必要があります。CFG 4.0を引き続き適用するQwen-Imageワークフローに重みを投入すると、ガイダンスが二重になります。

from diffusers import QwenImagePipeline
import torch

pipe = QwenImagePipeline.from_pretrained(
    "nvidia/Qwen-Image-Flash", torch_dtype=torch.bfloat16
).to("cuda")

image = pipe(
    prompt="A red fox in a snowy pine forest at golden hour, photorealistic, sharp focus",
    width=1024, height=1024,
    num_inference_steps=4,
    true_cfg_scale=1.0,
).images[0]

モデルカードでは、Diffusers 0.38.0とTransformers 5.12.1、SGLang Diffusion、vLLM-Omni、TensorRT-LLM VisualGenがサポート対象のランタイムとして挙げられており、検証済みハードウェアはH100とB200です。ComfyUIは公式エンジンリストには含まれていません。単一ファイルのtransformer重みは、公式にサポートされたランタイムではなく、Qwen-Imageファミリーとアーキテクチャ互換として扱ってください。