VDN-H3 Turbo автономен: 8-шаговый LoRA для MiniMax H3

ComfyUI Wikinews

drbaph извлёк адаптер VDN-H3 Turbo в автономный 8-шаговый LoRA для MiniMax H3, с пруненными вариантами fl2va/ref2va плюс чекпоинт INT8 ConvRot VDN для Comfy Kitchen.

VDN-H3 — это переработка MiniMax H3 на основе гибридного внимания Video DeltaNet, которая заменяет квадратичное дальнодействующее внимание на линейную ветвь Video Delta Attention (читать оригинальное покрытие). 9 сентября участник сообщества drbaph опубликовал два обновления на Hugging Face: адаптер VDN-H3 Turbo извлечён в автономный 8-шаговый LoRA, совместимый с неизменными чекпоинтами MiniMax H3, и предварительно квантованная версия INT8 ConvRot чекпоинта VDN-H3, которая сокращает потребление VRAM примерно на 1.8 ГБ и ускоряет линейную ветвь примерно в 2.7 раза.

Почему автономность важна

До сих пор единственным способом запуска адаптера VDN-H3 Turbo были ComfyUI-VDN-H3 пользовательские ноды с полным патчем гибридного внимания: 8-шаговый чекпоинт, его линейная ветвь и оба адаптера загружены вместе. Новый автономный LoRA извлекает адаптер Turbo из этой стопки и переупаковывает его как обычный MiniMax H3 LoRA, так что он загружается через встроенный загрузчик LoRA ComfyUI на стандартном чекпоинте H3, без необходимости в пользовательских нодах.

По словам drbaph, адаптер Turbo внутри VDN-H3 был инициализирован из MiniMax H3 Turbo LoRA от larryvrh и затем дополнительно обучен по методу DMD в рамках VDN-H3. Это релиз автономной конвертации этого полученного адаптера, поэтому он несёт сигнал дистилляции от обоих направлений.

Что было выпущено

LoRAs находятся в папке experimental/ репозитория drbaph/MiniMax-H3-Turbo-Lora-ComfyUI:

ФайлБазаПримечания
minimax_h3_dmd_8step_turbo.safetensorsне пруненные fl2va / ref2vaодин LoRA для обеих не пруненных вариаций
minimax_h3_dmd_fl2va_8step_turbo_pruned.safetensorsпруненные fl2vaотдельная вариация для пруненного/криволинейного чекпоинта
minimax_h3_dmd_ref2va_8step_turbo_pruned.safetensorsпруненные ref2vaотдельная вариация для пруненного/криволинейного чекпоинта

РЕКОМЕНДУЕМЫЕ настройки: 8 шагов, сила 0.65 до 1.0. Каждый пруненный файл составляет около 2.1 ГБ.

Чекпоинт INT8 ConvRot VDN

Второй релиз нацелен на полный маршрут VDN-H3. drbaph/vdn-minimax-h3-int8-convrot-comfyui предварительно квантует 8-шаговый чекпоинт stage-dmd-step-250 в формат Comfy Kitchen INT8 ConvRot, ту же сериализацию, которую ComfyUI использует для своих собственных моделей диффузии int8-convrot. Квантуются только веса matmul, отправленные линейной ветвью; адаптеры, смещения, нормализации и свёртки проходят без изменений.

Оригинал bf16INT8 ConvRot
Линейная ветвь4.28 ГБ2.20 ГБ
Всего этапа5.09 ГБ3.25 ГБ
Матмульты ветви1x~в 2.7 раза быстрее
Итоговое время (один тестовый запуск)~111 с~95 с

Рендер A/B при 1280x736 / 61 кадрах с тем же сидом был визуально идентичным, а пиковое потребление VRAM во время загрузки снизилось примерно на 4.7 ГБ. Квантованный этап требует ComfyUI-VDN-H3 версии 1.3.0 или новее и помещается в ComfyUI/models/vdn/, как и оригинал.

Пример Ref2VA, рендер с этапом INT8 ConvRot: 8 шагов, er_sde / БЕТА, 928x928.

Как это сочетается с другими ускорителями H3

Тестирование сообщества в каналах Banodoco H3 на этой неделе поставило цифры в контекст: маршрут VDN жертвует частью скорости по сравнению с LoRA lightx2v turbo (один бенчмарк показал 8-шаговый VDN Turbo за 2:04 для 1280x736 против 1:24 для 4-шагового lightx2v turbo на том же оборудовании), но лучше сохраняет быстрое движение, чем маршрут FastH3. Автономный 8-шаговый LoRA теперь даёт средний вариант: адаптер VDN с дистилляцией DMD без загрузки линейной ветви вообще.

Для работы с аудио на 50 шагов предложенный drbaph рецепт — генерировать минимум при 512x512 и увеличивать разрешение до 1080p через путь ref2va turbo 8-шагов, уменьшая масштаб сначала до 256 для скорости.

Доступность

Комментарии

Войдите через GitHub, чтобы участвовать в обсуждении.

Загрузка комментариев…
VDN-H3 Turbo автономен: 8-шаговый LoRA для MiniMax H3 | ComfyUI Wiki