Описание
Экспериментальная нода, которая патчит механизм самовнимания WanVideo для использования пользовательской реализации sageattention, снижая пиковое использование VRAM во время вывода. Эта нода переопределяет режим внимания модели.
Требуется последняя версия `sageattention — убедитесь, что она установлена, совместима и обновлена перед использованием этой ноды.
Входы
| Имя | Тип | Описание |
|---|---|---|
model | MODEL | Модель WanVideo, к которой применяется патч sageattention для экономии памяти. |
Выходы
| Тип | Описание |
|---|---|
MODEL | Тот же экземпляр модели с исправленным механизмом самовнимания для использования sageattention. |
Примечания по использованию
- Эта нода экспериментальная — поведение может измениться в будущих версиях.
- Она влияет только на слои самовнимания WanVideo; перекрестное внимание и другие компоненты остаются без изменений.
- Патч применяется как обертка модели; выход
MODELможно напрямую использовать в последующих нодах выборки. - Если
sageattentionне установлено или устарело, во время выполнения будет вызвана ошибка. - Применение этого патча может изменить качество или поведение вывода — тщательно тестируйте с вашим конкретным рабочим процессом.
Комментарии
Войдите через GitHub, чтобы участвовать в обсуждении.