Квантизации MiniMax H3 GGUF от Unsloth для ComfyUI
Unsloth публикует GGUF-квантизации MiniMax H3 от Q2_K (6,3 ГБ) до Q8_0 (20 ГБ) для FL2VA и Ref2VA, а также GGUF текстового энкодера Qwen3-VL для ComfyUI и stablediffusion.cpp.
Unsloth опубликовал GGUF-квантизации MiniMax H3 10 августа, охватывающие полный диапазон Q2:Q8 как для обоих денойзеров H3, так и для необходимого им текстового энкодера Qwen3-VL. Файлы совместимы с ComfyUI, stablediffusion.cpp и Unsloth, что даёт пользователям с небольшим объёмом VRAM гораздо более широкий выбор ступеней, чем первая волна квантизаций от сообщества.
Демо-клип, сгенерированный на самой нижней ступени UD-Q2_K_XL: 960x544, 124 кадра, 24 FPS, 8 шагов, направление 1.0 (GIF уменьшен и без звука; полный MP4 содержит нативное стерео-аудио H3 с частотой 32 кГц)
Что опубликовано
H3 включает два денойзера, и оба квантизованы на тех же ступенях:
| Квантизация | FL2VA pruned | Ref2VA pruned |
|---|---|---|
| Q2_K | 6.26 GiB | 6.22 GiB |
| UD-Q2_K_XL | 7.51 GiB | N/A |
| Q3_K | 8.16 GiB | 8.12 GiB |
| UD-Q3_K_XL | 8.90 GiB | N/A |
| Q4_K | 10.64 GiB | 10.60 GiB |
| Q5_0 | 12.97 GiB | 12.93 GiB |
| Q6_K | 15.45 GiB | 15.42 GiB |
| Q8_0 | 19.96 GiB | 19.94 GiB |
FL2VA это вариант «первый и последний кадр» (текст плюс ноль, один или два кадра); Ref2VA это референсный вариант (текст плюс референсные изображения, видео и аудио). Это отдельные checkpoints, поэтому выбирайте тот, который соответствует задаче.
Текстовый энкодер Qwen3-VL 32B, необходимый для H3, также доступен в формате GGUF: qwen3vl_32b_minimax_h3-Q2_K_M.gguf (12.20 GiB) и qwen3vl_32b_minimax_h3-Q4_K_M.gguf (16.97 GiB).
Какой файл подходит для вашей GPU
| VRAM | Рекомендуемая ступень |
|---|---|
| 8–12 ГБ | Q2_K или UD-Q2_K_XL |
| 12–16 ГБ | Q3_K / UD-Q3_K_XL или Q4_K |
| 16–24 ГБ | Q5_0 или Q6_K |
| 24+ ГБ | Q8_0 |
Для справки: демо выше было запущено на одной видеокарте с разрешением 960x544 на ступени UD-Q2_K_XL.
Как использовать в ComfyUI
GGUF-файлы diffusion-моделей загружаются через стандартные узлы загрузчика GGUF в ComfyUI (ComfyUI-GGUF), так же как и более ранние квантизации H3 от сообщества, а GGUF текстового энкодера проходит через загрузчик текстовых энкодеров GGUF. Как обычно, соедините файл с видео- и аудио-VAE MiniMax H3.
Доступность
Все файлы доступны на Hugging Face по адресу unsloth/MiniMax-H3-GGUF. Помимо ComfyUI, эти же файлы работают через stablediffusion.cpp и собственный рантайм Unsloth.
Комментарии
Войдите через GitHub, чтобы участвовать в обсуждении.