Unsloth MiniMax H3 GGUF量子化モデル: ローカル利用向けフルQ2-Q8レンジ
UnslothがFL2VAとRef2VA向けにQ2_K (6.3 GB) からQ8_0 (20 GB) までのMiniMax H3 GGUF量子化ファイルを公開。ComfyUIとstablediffusion.cpp向けのQwen3-VLテキストエンコーダーGGUFも含まれます。
Unsloth は8月10日、MiniMax H3のGGUF量子化を公開しました。H3の2つのデノイザーと、それらが必要とするQwen3-VLテキストエンコーダーの両方について、Q2:Q8フルレンジをカバーしています。これらのファイルはComfyUI、stablediffusion.cpp、Unslothと互換性があり、低VRAMユーザーには、初期のコミュニティ量子化の波よりもはるかに幅広い選択肢を提供します。
最小の量子化段階であるUD-Q2_K_XLで生成済みのデモクリップ: 960x544、124フレーム、24 FPS、8ステップ、ガイダンス1.0 (GIFはダウンサンプリング済みで無音。フルMP4にはH3のネイティブな32 kHzステレオオーディオが収録されています)
公開内容
H3には2つのデノイザーが搭載されており、両方とも同じ量子化レベルで提供されています:
| 量子化 | FL2VA プルーニング済み | Ref2VA プルーニング済み |
|---|---|---|
| Q2_K | 6.26 GiB | 6.22 GiB |
| UD-Q2_K_XL | 7.51 GiB | — |
| Q3_K | 8.16 GiB | 8.12 GiB |
| UD-Q3_K_XL | 8.90 GiB | — |
| Q4_K | 10.64 GiB | 10.60 GiB |
| Q5_0 | 12.97 GiB | 12.93 GiB |
| Q6_K | 15.45 GiB | 15.42 GiB |
| Q8_0 | 19.96 GiB | 19.94 GiB |
FL2VAは最初と最後のフレームを使用するバリアント (テキストに加えて0、1、または2フレーム) です。Ref2VAはリファレンスバリアント (テキストに加えてリファレンス画像、ビデオ、オーディオ) です。これらは別々のチェックポイントなので、タスクに合った方を選んでください。
H3が必要とするQwen3-VL 32BテキストエンコーダーもGGUFとして利用可能です: qwen3vl_32b_minimax_h3-Q2_K_M.gguf (12.20 GiB) と qwen3vl_32b_minimax_h3-Q4_K_M.gguf (16.97 GiB)。
GPUに合ったファイルの選び方
| VRAM | 推奨レベル |
|---|---|
| 8–12 GB | Q2_K or UD-Q2_K_XL |
| 12–16 GB | Q3_K / UD-Q3_K_XL or Q4_K |
| 16–24 GB | Q5_0 or Q6_K |
| 24 GB+ | Q8_0 |
参考までに、上記のデモはシングルカードで960x544、UD-Q2_K_XLレベルで動作しました。
ComfyUIでの使い方
diffusionモデルのGGUFは、以前のコミュニティ製H3量子化と同じ方法で、スタンダードなComfyUI GGUFローダーノード (ComfyUI-GGUF) から読み込まれます。テキストエンコーダーGGUFはGGUFテキストエンコーダーローダーで読み込みます。ファイルは、通常どおりMiniMax H3のビデオVAEおよびオーディオVAEと組み合わせて使用します。
入手先
すべてのファイルはHugging Faceのunsloth/MiniMax-H3-GGUFにあります。ComfyUIに加えて、同じファイルはstablediffusion.cppとUnsloth独自のランタイムでも実行できます。
コメント
GitHubでサインインしてディスカッションに参加しましょう。