Quants GGUF Unsloth MiniMax H3 : gamme complète Q2-Q8 pour usage local

Unsloth a publié des quantifications GGUF de MiniMax H3 le 10 août, couvrant toute la gamme Q2:Q8 pour les deux denoisers H3 ainsi que l'encodeur de texte Qwen3-VL dont ils ont besoin. Les fichiers sont compatibles avec ComfyUI, stablediffusion.cpp et Unsloth, offrant aux utilisateurs à faible VRAM une échelle d'options bien plus large que la première vague de quants de la communauté.

Extrait de démo généré avec l'échelon le plus bas, UD-Q2_K_XL : 960x544, 124 images, 24 FPS, 8 étapes, guidance 1.0 (GIF réduit et silencieux ; le MP4 complet contient l'audio stéréo natif de 32 kHz de H3)

Ce qui a été publié

H3 est livré avec deux denoisers, tous deux quantifiés aux mêmes échelons :

FL2VA est la variante basée sur les première et dernière images (texte plus zéro, une ou deux images) ; Ref2VA est la variante de référence (texte plus images, vidéos et audio de référence). Ce sont des checkpoints distincts ; choisissez donc celui qui correspond à la tâche.

L'encodeur de texte Qwen3-VL 32B dont H3 a besoin est également disponible en GGUF : qwen3vl_32b_minimax_h3-Q2_K_M.gguf (12,20 Gio) et qwen3vl_32b_minimax_h3-Q4_K_M.gguf (16,97 Gio).

Quel fichier correspond à votre GPU

À titre de référence, la démo ci-dessus a tourné sur une seule carte en 960x544 avec l'échelon UD-Q2_K_XL.

Comment l'utiliser dans ComfyUI

Les GGUFs des modèles de diffusion se chargent via les nœuds de chargement GGUF standard de ComfyUI (ComfyUI-GGUF), de la même manière que les quants H3 de la communauté publiés précédemment. Le GGUF de l'encodeur de texte passe quant à lui par le chargeur d'encodeur de texte GGUF. Associez le fichier aux VAE vidéo et audio de MiniMax H3 comme d'habitude.

Disponibilité

Tous les fichiers sont disponibles sur Hugging Face : unsloth/MiniMax-H3-GGUF. Outre ComfyUI, les mêmes fichiers fonctionnent avec stablediffusion.cpp et le runtime d'Unsloth.