LTXV Chunk FeedForward (LTXVChunkFeedForward) - ComfyUI-KJNodes

Описание

Этот узел разбивает активации прямого распространения внутри модели LTXV на части для снижения пикового использования VRAM. ЭКСПЕРИМЕНТАЛЬНО И МОЖЕТ ИЗМЕНИТЬ ВЫХОД МОДЕЛИ!! Используйте с осторожностью и проверяйте результаты по сравнению с немодифицированной моделью. Разделение активаций на более мелкие части позволяет обрабатывать большие разрешения или последовательности без превышения лимитов памяти, но может изменить числовую точность (особенно в путях внимания или нормализации) и тем самым повлиять на качество конечного выхода.

Входы

Вход	Тип	Обязательно	По умолчанию	Диапазон	Подсказка
`model`	`MODEL`	Да	–	–	Модель LTXV для модификации.
`chunks`	`INT`	Да	`2`	`[1, 100]`, шаг 1	Количество частей, на которые разбиваются активации прямого распространения для снижения пикового использования VRAM. Более высокие значения сильнее снижают пиковую память, но могут увеличить время выполнения и изменить выходы. Значение 1 отключает разбиение полностью.
`dim_threshold`	`INT`	Да	`4096`	`[0, 16384]`, шаг 256	Порог размерности, выше которого применяется разбиение. Будут разбиты только слои со скрытым размером, большим или равным этому порогу. Установите `0`, чтобы разбивать каждый слой (максимальное сохранение памяти, наибольший риск изменения выхода).

Выходы

Выход	Тип	Описание
`model`	`MODEL`	Модифицированная модель LTXV с разбитыми активациями прямого распространения, применёнными в соответствии с заданными параметрами.

Примечания по использованию

Этот узел предназначен для расширенных пользователей, которым нужно вписать очень большие варианты модели LTXV или рабочие процессы с высоким разрешением в ограниченную VRAM.
Поскольку разбиение изменяет порядок операций внутри блока прямого распространения, численные результаты не бит-идентичны неизменённой модели. Всегда тестируйте выходы на репрезентативных запросах, прежде чем полагаться на разбитую версию в продакшене.
Параметр dim_threshold позволяет ограничить разбиение самыми крупными (наиболее требовательными к памяти) слоями. Для типичных моделей LTXV установка dim_threshold на 4096 разбивает только самые большие слои, балансируя экономию памяти и точность выхода.
Увеличение chunks сверх 8–16 обычно даёт убывающую отдачу по памяти и может увеличить накладные расходы; 2–8 — практический диапазон для большинства случаев.
Если вы сталкиваетесь с неожиданными артефактами или ошибками нехватки памяти, попробуйте уменьшить chunks или увеличить dim_threshold.

LTXV Chunk FeedForward(LTXVChunkFeedForward)