Wan ChunkFeedForward(WanChunkFeedForward)

Узел Wan ChunkFeedForward. Его основной принцип заключается в разбиении крупных, ресурсоемких для видеопамяти вычислительных процессов внутри модели на несколько небольших блоков (Chunks) для последовательной обработки.

Узел Wan ChunkFeedForward снижает пиковое использование видеопамяти за счет обработки прямых активаций модели блоками, что особенно полезно при работе с изображениями высокого разрешения или сложными моделями.

Функциональность узла

Его основной принцип заключается в разбиении крупных, ресурсоемких для видеопамяти вычислительных процессов внутри модели на несколько небольших блоков (Chunks) для последовательной обработки. Когда внутренняя размерность модели превышает пороговое значение, заданное пользователем, Wan ChunkFeedForward автоматически применяет эту стратегию разбиения на блоки. Это позволяет избежать проблем с нехваткой видеопамяти из-за чрезмерного объема вычислений за один раз и дает возможность запускать большие модели или ресурсоемкие задачи в условиях ограниченной видеопамяти.

Сценарии использования

Этот узел стоит попробовать подключить, если при генерации изображений с использованием моделей высокого разрешения вы часто сталкиваетесь с ошибкой «Недостаточно видеопамяти (Out of Memory)». При построении сложных рабочих процессов, включающих последовательное соединение нескольких крупных моделей, использование Wan ChunkFeedForward помогает стабилизировать процесс и предотвратить сбои в середине выполнения. Для пользователей, которым необходимо запускать передовые большие модели на видеокартах с небольшим объемом памяти, этот узел предлагает возможный путь оптимизации.

Важные замечания

Обратите внимание, что этот узел помечен как «Экспериментальный (EXPERIMENTAL)», и его выходные данные могут непредсказуемо изменяться. Рекомендуется использовать его с осторожностью в критически важных или производственных задачах. Обычно рекомендуется начинать с небольшого количества блоков (например, 2 или 3) и настраивать параметр dim_threshold в соответствии с требованиями задачи и доступной видеопамятью, чтобы найти баланс между экономией памяти и вычислительной эффективностью.

Ссылка на исходный код узла Wan ChunkFeedForward

Узел Wan ChunkFeedForward взят из пакета узлов ComfyUI-KJNodes.