Квантизации MiniMax H3 GGUF от Unsloth для ComfyUI

ComfyUI Wikinews

Unsloth публикует GGUF-квантизации MiniMax H3 от Q2_K (6,3 ГБ) до Q8_0 (20 ГБ) для FL2VA и Ref2VA, а также GGUF текстового энкодера Qwen3-VL для ComfyUI и stablediffusion.cpp.

Unsloth опубликовал GGUF-квантизации MiniMax H3 10 августа, охватывающие полный диапазон Q2:Q8 как для обоих денойзеров H3, так и для необходимого им текстового энкодера Qwen3-VL. Файлы совместимы с ComfyUI, stablediffusion.cpp и Unsloth, что даёт пользователям с небольшим объёмом VRAM гораздо более широкий выбор ступеней, чем первая волна квантизаций от сообщества.

Демо-клип MiniMax H3 GGUF, сгенерированный на ступени UD-Q2_K_XL

Демо-клип, сгенерированный на самой нижней ступени UD-Q2_K_XL: 960x544, 124 кадра, 24 FPS, 8 шагов, направление 1.0 (GIF уменьшен и без звука; полный MP4 содержит нативное стерео-аудио H3 с частотой 32 кГц)

Что опубликовано

H3 включает два денойзера, и оба квантизованы на тех же ступенях:

КвантизацияFL2VA prunedRef2VA pruned
Q2_K6.26 GiB6.22 GiB
UD-Q2_K_XL7.51 GiBN/A
Q3_K8.16 GiB8.12 GiB
UD-Q3_K_XL8.90 GiBN/A
Q4_K10.64 GiB10.60 GiB
Q5_012.97 GiB12.93 GiB
Q6_K15.45 GiB15.42 GiB
Q8_019.96 GiB19.94 GiB

FL2VA это вариант «первый и последний кадр» (текст плюс ноль, один или два кадра); Ref2VA это референсный вариант (текст плюс референсные изображения, видео и аудио). Это отдельные checkpoints, поэтому выбирайте тот, который соответствует задаче.

Текстовый энкодер Qwen3-VL 32B, необходимый для H3, также доступен в формате GGUF: qwen3vl_32b_minimax_h3-Q2_K_M.gguf (12.20 GiB) и qwen3vl_32b_minimax_h3-Q4_K_M.gguf (16.97 GiB).

Какой файл подходит для вашей GPU

VRAMРекомендуемая ступень
8–12 ГБQ2_K или UD-Q2_K_XL
12–16 ГБQ3_K / UD-Q3_K_XL или Q4_K
16–24 ГБQ5_0 или Q6_K
24+ ГБQ8_0

Для справки: демо выше было запущено на одной видеокарте с разрешением 960x544 на ступени UD-Q2_K_XL.

Как использовать в ComfyUI

GGUF-файлы diffusion-моделей загружаются через стандартные узлы загрузчика GGUF в ComfyUI (ComfyUI-GGUF), так же как и более ранние квантизации H3 от сообщества, а GGUF текстового энкодера проходит через загрузчик текстовых энкодеров GGUF. Как обычно, соедините файл с видео- и аудио-VAE MiniMax H3.

Доступность

Все файлы доступны на Hugging Face по адресу unsloth/MiniMax-H3-GGUF. Помимо ComfyUI, эти же файлы работают через stablediffusion.cpp и собственный рантайм Unsloth.

Комментарии

Войдите через GitHub, чтобы участвовать в обсуждении.

Загрузка комментариев…
Квантизации MiniMax H3 GGUF от Unsloth для ComfyUI | ComfyUI Wiki