MiniMax H3 w4a8: Kijaiの実験的4ビット重みがComfyUIに登場

ComfyUI Wikinews

Kijaiが実験的なw4a8量子化MiniMax H3重み（12.5 GB FL2VA）をint8 convrot VAEとともに公開。ComfyUIコアのサポートがPR #15308でマージされました。

KijaiはHugging Faceで実験的なw4a8量子化済みMiniMax H3重みを、int8 convrot VAEとともに公開しました。非対称4ビットレイアウトは重みを1要素あたり約0.56バイトで格納し、int8 GEMMで処理することで、枝刈り済みFL2VAチェックポイントを12.5 GBに削減します（リポジトリ）。

このフォーマットはComfyUIコア側の対応によって支えられています。Comfy-Org/ComfyUI #15308「Support asym w4a8_int」は8月7日、int8 convrot VAEサポートを含むComfy-Org/ComfyUI #15334は8月6日にマージされました。

これはテスト専用の進行中リリースです。品質と速度の数値は最終結果ではなく、初期のデータポイントとして扱ってください。

ファイル

ファイルサイズ役割
minimax_h3_fl2va_pruned_w4a8_mixed.safetensors12.5 GBFL2VA枝刈り済みdiffusionモデル（テキストから動画へ、先頭・最終フレーム）
minimax_h3_ref2va_pruned_w4a8_mixed.safetensors11.8 GBRef2VA枝刈り済みdiffusionモデル（参照条件付き）
minimax_h3_video_vae_int8_convrot.safetensors3.2 GBint8 convrotビデオVAE（fp16 VAEより約1.5倍高速）

w4a8レイアウトの仕組み

このレイアウトはcomfy-kitchen PR #90（「Add optimized w4a8 with int8 codebook」）に由来します。キャリブレーション不要の4ビット重み格納方式で、ConvRotアクティベーションを伴うint8 GEMM上で動作します。

  • ConvRotで回転されたint4重みと、テンソルごとのLloyd-Maxコードブック、fp8グループスケール
  • グループ化されたint8に逆量子化され、int8 CUTLASS GEMMに入力
  • 実際のDiT重みでの重みrelL2エラーは約0.073（NVFP4では約0.094）
  • 1要素あたり約0.56バイト、int8より約1.09倍高速、キャリブレーションパス不要
  • バックエンド: CUDA（chunked fused int4-to-int8逆量子化 + strided INT8 GEMM）に加え、AMD/CPU向けのTritonおよび純粋なtorch eagerパス
Kijaiのw4a8テストのデモフレーム（RTX 5090）

KijaiのRTX 5090でのw4a8サンプル結果のフレーム（comfy-kitchen PR #90で共有）

ComfyUIでの使用方法

公式のH3ワークフローテンプレート（video_minimax_h3_t2vなど）でw4a8 diffusionモデルを実行し、モデルローダーをw4a8チェックポイントに、VAEローダーをminimax_h3_video_vae_int8_convrot.safetensorsに切り替えます。int8 convrot VAEには、PR #15334でマージされたComfyUIコアのサポートが必要です。

入手方法

コメント

GitHubでサインインしてディスカッションに参加しましょう。

コメントを読み込み中…
MiniMax H3 w4a8: Kijaiの実験的4ビット重みがComfyUIに登場 | ComfyUI Wiki