Kromoss: ComfyUI向けにリリースされたMOSS-Imageのフルファインチューン

ComfyUI Wikinews

KromossはMOSS-Image-Baseをフルファインチューンしたモデルで、ComfyUI向けにbf16とint8 ConvRotの単一ファイルとして公開されています。8ステップのDMD LoRAと変換スクリプトも付属します。

Kromossは、2026年10月19日にlodestonesが公開したMOSS-Image-Baseのフルファインチューンです。lodestonesはChromaチェックポイントシリーズやMOSS-Image SFTの8ステップ蒸留ウェイトの作者でもあります。アーキテクチャ、Qwen3.5-9Bテキストエンコーダー、MOSS-Image-SFTのFLUX.2 small VAEをそのまま引き継いでいるため、既存のMOSS-Imageワークフローにそのまま組み込むことができ、さらにComfyUIがすでに読み込める単一ファイルのレイアウトそのままでパッケージ化されています。

アップロードから数時間でHugging Faceで96件のいいねを獲得し、BanodocoのMOSS-Imageチャンネルでは同じシードを使ってint8の教師ありファインチューンと比較されました。

ファインチューンによる変更点

モデルカードは目的を絞って説明しています。フルファインチューンは主にBaseモデルのぼやけを修正するもので、それ以外はすべて継承されています。トレーニングはMOSS-Imageの報告書にある最終段階のレシピに従い、1回の更新あたり64枚の画像にスケールしました。ハイブリッドMuon-AdamWで学習率9e-6、200ステップのウォームアップ、打ち切られたロジット正規分布タイムステップ、最終ブロックのq/kノルムを1まで減衰、公開ウェイトにはEMA 0.999を使用しています。チェックポイントはその学習の更新9000回目で、1024pxの57.6万枚のトレーニング画像を使用し、896²未満の画像はデータセットから除外されています。学習は続いており、リポジトリは数時間おきにEMAチェックポイントを再アップロードしています。アップロード初日だけで更新2000回目、4000回目、5000回目、7000回目、そして9000回目が順に公開されたため、更新回数と画像数は今後も変動します。

Kromoss、50ステップ、CFG 3Kromossと8ステップDMD LoRA、CFG 1
50ステップ、CFG 38ステップ、CFG 1、同梱のDMD LoRA使用

diffusersだけでなくComfyUI向けにパッケージ化

リポジトリは、最初のレンダリング前に何も変換する必要がないように構成されています。5つのファイルはComfyUIのツリーに配置するだけで使えます。

  • diffusion_models/kromoss_bf16.safetensors(10.2 GB)をmodels/diffusion_models/に配置し、Load Diffusion Modelで読み込みます。Comfy-Orgのワークフローではmoss_image_sft_bf16.safetensorsと1対1で置き換えられます。
  • diffusion_models/kromoss_int8_convrot.safetensors(5.4 GB)はint8経路用で、Comfy-Orgのmoss_image_sft_int8_convrot.safetensorsと同じConvRot W8A8形式です。
  • text_encoders/qwen3.5_9b_bf16.safetensors(19.3 GB)をmodels/text_encoders/に配置し、タイプmoss_imageでLoad CLIPにより読み込みます。他のMOSS-Imageビルドが使うのと同じエンコーダーなので、既存のインストール環境では二重に用意する必要はありません。
  • vae/flux2-vae_small.safetensorsをmodels/vae/に配置します。
  • 8-steps-dmd-lora.safetensors(1.19 GB)をmodels/loras/に配置し、強度1でLoraLoaderModelOnlyにより適用します。

int8ファイルは、他人のチェックポイントを再量子化したコピーではありません。168個のブロック線形層(proj.{qkv,o,ffn_up_gate,ffn_down})は、入力次元に幅256の正則アダマール回転を施した後、行ごとのスケール付きでint8として保存されています。ComfyUIは行列を保存する代わりに読み込み時に回転を再構築し、各ブロックはComfyUIのint8アテンションを選択します。また、任意のbf16単一ファイルからこの形式を生成するquantize_convrot.pyと、diffusersのtransformer/フォルダーを融合されたproj.qkvレイアウトに変換するconvert_to_comfy.pyも同梱されています。

どちらのスクリプトにも、手元に残す価値のある自己チェック機能があります。MOSS-Image-SFT自身のtransformer/に対して実行すると、Comfy-Orgが公開しているmoss_image_sft_bf16.safetensorsとmoss_image_sft_int8_convrot.safetensorsをバイト単位で再現し、--compare FILEはキー、形状、dtypeを参照と比較します。つまり、誰でも同じ2つのコマンドで自分のMOSS-Imageファインチューンを変換できます。

8ステップLoRA

同梱の8-steps-dmd-lora.safetensorsはMOSS-Image-Baseのデータ空間DMD蒸留で、fp32、各ブロックのproj.{q,k,v,o,ffn_up_gate,ffn_down}にランク128、アルファ128が設定され、kohyaキーで保存されています。q、k、vの射影を分離するエコシステムの慣例に従っており、ComfyUIは読み込み時にそれらをMOSS-Image単一ファイルの融合されたqkvスライスにマッピングします。

モデルカードは、LoRAをbf16ウェイトにマージすべきではないと明言しています。差分がbf16の丸め幅に近いため、マージせずに強度1で適用します。

設定フルモデル8-steps-dmd-lora使用時
サンプラーFlow-matching EulerFlow-matching Euler
ステップ508
CFG31
Shift55
レイヤースキップネガティブブランチ、ブロック22なし、ネガティブブランチなし

計測されたプロンプト追従性

リポジトリにはPartiPromptsの100プロンプトに対するCLIP ViT-L/14スコアが報告されています。Kromossの行は、現在公開されているチェックポイントではなく更新2000回目時点で測定されたものです。

モデルCLIP ViT-L/14
MOSS-Image-Base、50ステップ、CFG 327.19
MOSS-Image-Base + 8ステップLoRA27.53
Kromoss、50ステップ、CFG 326.88
Kromoss + 8ステップLoRA、8ステップ、CFG 127.82
PartiPrompts比較シート

素直に読めば、この表はフルファインチューン単体ではシャープさと引き換えにプロンプト追従性を少し犠牲にし、その上に蒸留LoRAを重ねるとBaseのスコアを回復しわずかに上回ることを示しています。数値は作者自身によるもので、学習途中のチェックポイントから得られたものです。

入手方法

KromossはHugging Faceのlodestones/Kromossにあり、Civitaiにもミラーされています。MOSS-Imageのサポートは現在のComfyUI masterに含まれているため、チェックポイントにもLoRAにもカスタムノードは不要です。ベースモデルと公式ウェイトについては、MOSS-Imageリリースの記事と4ステップ・8ステップのコミュニティアダプターを参照してください。

コメント

GitHubでサインインしてディスカッションに参加しましょう。

コメントを読み込み中…
Kromoss: ComfyUI向けにリリースされたMOSS-Imageのフルファインチューン | ComfyUI Wiki