VDN-H3: ハイブリッドアテンションでMiniMax H3の動画を再生より高速に生成

VDN-H3 (重み, コード) は、UC Berkeley / Impossible, Inc. / UT Austin のチームによる MiniMax H3 のハイブリッドアテンション再設計版です。H3の2次関数的な長距離アテンションを、リニアな「Video Delta Attention」ブランチに置き換え、変更されていないH3バックボーンにパッチとして適用される50ステップ版と8ステップ版の蒸留チェックポイントとして提供されます。Dense H3と比較してほぼロスレスの品質と報告されています。ComfyUIネイティブポートもすでに公開されています: Saganaki22/ComfyUI-VDN-H3。

コミュニティ製のComfyUIポートは、リリースされたVDN-H3チェックポイントを、ComfyUI標準のMiniMax-H3ノードに対するランタイムモデルパッチとして実行します。コアの変更は一切不要です。

Video DeltaNetがH3を高速化する仕組み

MiniMax H3のようなフロンティアのオムニモデルでは、長いトークンシーケンスに対するsoftmaxアテンションが総実行時間の85%以上を占め、そのコストはクリップ長に対して2次関数的に増大します。Video DeltaNetは、動画間アテンションを2つの相補的なブランチに分割します。すなわち、近接フレーム間の正確なアテンションを維持する双方向スライディングウィンドウsoftmaxブランチ(微細なディテールと短期的な安定性を担当)と、一定コストのリカレント状態を介して長距離コンテキストを伝搬する双方向リニアアテンションブランチです。4方向のバウンダリーアンカー方式は、グローバルな一貫性を保ちながらアテンション密度をわずか3.57%しか増やさないため、クリップの最初と最後のフレームをすべてのフレームから参照できる状態を維持します。

このチェックポイントはH3バックボーンを置き換えるものではありません。独立したリニアアテンションブランチと、推論時にバックボーンへマージされる2つの小型LoRAアダプターが同梱され、オリジナルの重みは変更されません。アーキテクチャ変更に加えて、8ステップモデルは50ステップモデルのDMD蒸留版です。

パフォーマンスと品質

冒頭の数値はデータセンター構成によるものです。8基のB200 GPU上で、VDN-H3は8ステップのdenoiseで14.4秒の768pクリップを11.23秒で生成します。以下は、Dense H3ベースラインに対するシングルGPU比較です:

構成	GPU	50 NFE (VDN-H3-50-step)	8 NFE (VDN-H3-8-step)
Dense MiniMax-H3 (H200)	1	27.3分	4.4分
VDN-H3 FP8 (H200)	1	9.4分	90.5秒
Dense MiniMax-H3 (B200)	1	13.95分	2.23分
VDN-H3 FP8 (B200)	1	5.3分	51秒

チームによると、このハイブリッドモデルはDense H3の出力と視覚的にほぼ見分けがつかず、MiniMax FastH3よりも高品質で指示追従性に優れています。Dense H3やFastH3と並べた比較クリップを含むサンプルは、プロジェクトページで公開されています。

プロジェクトページのVDN-H3 8ステップ出力サンプル。

ComfyUIでの実行

公式リリースはデータセンター向けスタックを対象としています。Ulyssesのシーケンス並列処理とFlashAttention-4カーネルを備えた8x B200構成であり、FA4カーネルはHopperとデータセンター向けBlackwellのみをサポートします。公式のWindowsビルドは提供されておらず、コンシューマ向けBlackwell (sm_120) はFA4カーネルのサポート対象外です。

ComfyUI-VDN-H3ポートは、公式のハイブリッドアテンションの計算を、ComfyUI標準のMiniMax-H3モデルに対するランタイムモデルパッチとして再現します。FP8のリニア層と融合Tritonカーネルは、ポータブルなPyTorch相当の実装に置き換えられています。公式実装に対するユニットテストも実施済みで、追加の依存関係は一切不要です。インストール手順:

リポジトリを ComfyUI/custom_nodes/ にクローンし、ComfyUIを再起動します。
必要なチェックポイントステージを ComfyUI/models/vdn/ にダウンロードします。ディレクトリ構成 (model_spec.json、linear_branch/、adapters/) はそのまま維持してください:

hf download OpenVDN/vdn-minimax-h3 --include "stage-dmd-step-250/*" --local-dir <ComfyUI>/models/vdn

8ステップ用の stage-dmd-step-250 のダウンロードサイズは約5GB (リニアブランチとアダプターを含む)、50ステップ用の stage-b-step-2000 は約4.3GBです。

このポートでは、冒頭の速度は得られません。公式の74.5倍という数値は、8GPU並列処理、FA4、FP8、8ステップ蒸留を組み合わせたものです。アップストリーム自身のシングルGPU測定でも50ステップで約2.6倍であり、このポートのポータブルカーネルはそれをやや下回ります (RTX 5090上、1280x736 / 145フレームで約17秒/itと測定)。Banodoco H3チャンネルでのコミュニティベンチマークでは、同じハードウェア上で8ステップのVDN-H3 Turboが1280x736を2:04、LightXv2 4ステップターボが1:24で処理しました。コメント投稿者らは、VDNのほうがFastH3ルートよりも速い動きの保持に優れていると指摘しています。

同じプロンプトを50ステップのDense H3で生成した出力 (プロジェクトページの比較の上段)。

入手方法

重み: Hugging Face 上の OpenVDN/vdn-minimax-h3 (MiniMax H3 Community License。一部の地域が除外されている点に注意)
公式コード: OpenVDN/vdn-minimax-h3 (Apache-2.0)。推論・トレーニングコードとプロジェクトページを含む
ComfyUIポート: Saganaki22/ComfyUI-VDN-H3