Quants GGUF Unsloth MiniMax H3: rango Q2-Q8 para uso local

Unsloth publicó cuantizaciones GGUF de MiniMax H3 el 10 de agosto, cubriendo el rango Q2:Q8 completo para ambos denoisers de H3, además del codificador de texto Qwen3-VL que necesitan. Los archivos son compatibles con ComfyUI, stablediffusion.cpp y Unsloth, lo que ofrece a los usuarios con poca VRAM una escalera de opciones mucho más amplia que la primera ola de cuantizaciones de la comunidad.

Clip de demostración generado con el peldaño más pequeño, UD-Q2_K_XL: 960x544, 124 fotogramas, 24 FPS, 8 pasos, orientación 1.0 (GIF con resolución reducida y sin audio; el MP4 completo incluye el audio estéreo nativo de 32 kHz de H3)

Lo que se publicó

H3 viene con dos denoisers, y ambos están cuantizados en los mismos peldaños:

FL2VA es la variante de primer y último fotograma (texto más cero, uno o dos fotogramas); Ref2VA es la variante de referencia (texto más imágenes de referencia, vídeos y audio). Son checkpoints separados, así que elige el que se ajuste a la tarea.

El codificador de texto Qwen3-VL 32B que H3 necesita también está disponible como GGUF: qwen3vl_32b_minimax_h3-Q2_K_M.gguf (12,20 GiB) y qwen3vl_32b_minimax_h3-Q4_K_M.gguf (16,97 GiB).

Qué archivo se ajusta a tu GPU

Como referencia, la demo anterior se ejecutó en una sola tarjeta a 960x544 con el peldaño UD-Q2_K_XL.

Cómo usarlo en ComfyUI

Los GGUF del modelo de difusión se cargan mediante los nodos de carga GGUF estándar de ComfyUI (ComfyUI-GGUF), igual que las anteriores cuantizaciones de H3 de la comunidad, y el GGUF del codificador de texto se carga mediante el cargador de codificador de texto GGUF. Como de costumbre, usa el archivo junto con los VAE de vídeo y audio de MiniMax H3.

Disponibilidad

Todos los archivos están en Hugging Face en unsloth/MiniMax-H3-GGUF. Además de en ComfyUI, los mismos archivos funcionan con stablediffusion.cpp y el runtime propio de Unsloth.