PDMD: ComfyUI向けMiniMax H3の4ステップ蒸留

DMDターゲット	PDMDターゲット

どちらのパネルも、MiniMax H3実行の同じステップから実際のトレーニング更新ターゲットをデコードしたものです。プロジェクトページでは、PDMDターゲットの方がアーティファクトが少ないとされており、これはまさにこの投影が生み出すことを意図したものです。

PDMDが変えるもの

DMDは、criticのスコアと生徒自身のスコアの差で生徒をトレーニングします。この更新にはcriticのエラーも含まれており、そのエラーは後続の生徒の更新すべてに持ち込まれて蓄積し、進行性の過飽和や不自然なテクスチャとして現れます。PDMDはDMDの更新を維持しつつ、生徒とcriticのエンドポイント残差に沿った成分を差し引きます。

r = x0_critic - x0_student
d = d - (d * r).sum() / r.pow(2).sum() * r

論文は、固定されたノイズ付きクエリにおいてこの残差がcriticのエンドポイントエラーの不偏推定量であること、そして高次元の仮定の下では、この投影がcriticエラーの一定割合を除去しつつ、理想的なDMD信号のうちごくわずかな割合しか破棄しないことを示しています。DMDへの1行の変更であり、補助損失も、追加のネットワークも、追加のモデルパスも、追加のトレーニングステージもありません。

プロジェクトページの直観図。DMDは更新方向に沿って生徒のエンドポイントを移動させますが、PDMDはエンドポイント残差に平行な成分を射影により除去します。

公開されたもの

今回のリリースはこの方法のMiniMax H3側で、3つの成果物からなります。

アダプターはH3 transformerの312モジュール、624テンソルに対してランク128とアルファ128を持ち、Diffusersのキーレイアウト（transformer.<module>.lora_A.weight / transformer.<module>.lora_B.weight）を使用しています。それ以外（VAE、音声VAE、スケジューラー、テキストエンコーダー、プロセッサー）はベースモデルから取得し、safetensorsのメタデータには融合ルール W_base += lora_scale * (lora_B @ lora_A) が lora_scale = 1.0 として記録されています。カードでは、ベースモデルが公開しているスケジューラー設定（shift 12 / 3）で4回のデノイズステップを行うよう求めています。2ステップのリポジトリには、そのアダプターのfp32コピーも同梱されています。

結果

論文ではこの方法をMiniMax H3とWan2.1で報告しています。MiniMax H3では544p・固定シードで387プロンプトのVideoGen-Evalを使用しています。

| 方法 | NFE | 合計 | 品質 | 動的 | セマンティック | PQ | CE | CU | IS | |--|--:|--:|--:|--:|--:|--:|--:|--:| | MiniMax-H3-33B、教師 | 50 | 82.41 | 82.22 | 66.67 | 83.20 | 6.567 | 4.188 | 6.213 | 5.15 | | MiniMax-H3-33B | 4 | 79.48 | 79.54 | 44.44 | 79.23 | 6.056 | 3.167 | 5.580 | 3.35 | | H3 Turbo LoRA | 4 | 81.57 | 81.29 | 54.78 | 82.69 | 6.406 | 3.917 | 6.015 | 4.52 | | DMD2† | 4 | 82.27 | 82.51 | 59.95 | 81.34 | 6.305 | 3.434 | 5.871 | 4.06 | | DMD† | 4 | 82.76 | 82.68 | 61.76 | 83.05 | 6.381 | 3.801 | 5.931 | 4.79 | | rCM† | 4 | 81.18 | 80.98 | 58.40 | 81.95 | 6.063 | 3.711 | 5.446 | 3.69 | | AnyFlow† | 4 | 81.97 | 81.82 | 64.60 | 82.60 | 6.092 | 3.544 | 5.591 | 4.35 | | PDMD | 4 | 83.17 | 83.25 | 71.83 | 82.86 | 6.530 | 4.062 | 6.180 | 4.98 |

† は著者らによる再実装を示し、共通プロトコルの下でトレーニングされています。

Wan2.1-T2V-1.3Bでは480p・各5シードで944プロンプトのVBenchを使用しています。

アブストラクトでは、MiniMax H3の動画と音声の同時生成において、4ステップのPDMD生徒モデルがVideoGen-Evalの視覚合計で83.17を記録し、最も強い蒸留ベースラインを0.41ポイント上回り、比較対象の4ステップモデルの中で6つの音声指標すべてで最高の結果を得たと述べています。Wan2.1では、4ステップでVBench合計83.73を報告しており、条件を揃えたDMD実行を1.03ポイント上回っています。プロジェクトページでは、視覚品質、モーション、音声品質においてPDMDが蒸留ベースラインより優れているとする定性的比較とユーザー調査が追加されています。

ComfyUIで実行する

公式リリースはノードではなくDiffusersを対象としています。inference.py と run_a10.py は生徒モデルのトレーニング時と同じre-noiseルールでサンプリングし、リリースにはワークフローJSONは同梱されていません。

ComfyUIでは、変換してしまえばアダプターは通常のLoRAです。KijaiはKijai/MiniMax-H3-experimentalでランクを削減した変換を公開しています。minimax_h3_pdmd_2step_lora_avg_rank_38_bf16.safetensors と minimax_h3_pdmd_4step_lora_avg_rank_57_bf16.safetensors です。これらはカスタムノードなしでスタンダードなMiniMax H3 LoRAパスを通じて読み込まれますが、ランク削減とサンプラー設定が論文で評価されたものではないという、いつもの注意点があります。コミュニティによる変換Iwannapose/minimax_h3_pdmd_4nfe_comfyuiも出回っています。

公式のPDMDトレーラー。プロジェクトページのすべてのフレームは4回以下のネットワーク評価で実行されています。

プロジェクトページのMiniMax H3比較グリッドから、プロンプトとシードを揃えた2つのクリップ、いずれも4ステップです。

4ステップのDMD。

4ステップのPDMD。上のクリップと同じプロンプトとシード。

制限事項

• 公開されたMiniMax H3の生徒モデルは、ベースモデルのテキストエンコーダーと音声コンポーネントを用いて1344x768をターゲットとしているため、このリリースはより小さなモデルではなくサンプリング速度に関する成果です。
• ComfyUI変換ではランク128のアダプターを平均ランク38または57に削減しているため、論文が評価したファイルそのものではありません。
• 公式のノードやワークフローJSONがないため、ComfyUIのサポートはコミュニティの変換とそのキーレイアウトに依存します。リリース自体はDiffusers優先です。
• 上記の表でダガー（†）が付いたベースラインのいくつかは、共通プロトコルの下でトレーニングされた著者ら自身の再実装であり、それらのプロジェクトが公開している数値ではありません。

入手先

プロジェクトページ: pdmd2026.github.io
論文: arXiv 2609.35768
コード: ZeamoxWang/pdmd
重み: pdmd2026
ComfyUI変換: Kijai/MiniMax-H3-experimental
ベースモデル: MiniMaxAI/MiniMax-H3