Model Memory Usage Factor Override(ModelMemoryUsageFactorOverride)

Узел Model Memory Usage Factor Override реализует свою функцию путем клонирования входной модели и добавления к ней оболочки (Wrapper).

Model Memory Usage Factor Override — это экспериментальное средство для динамической настройки фактора использования памяти модели в процессе выборки. Его основная функция — переопределение исходной стратегии использования памяти модели, позволяя пользователю тонко настраивать её в соответствии с аппаратными возможностями или требованиями к производительности для оптимизации использования видеопамяти.

Функциональность узла

Этот узел реализует свою функцию путем клонирования входной модели и добавления к ней оболочки (Wrapper). Эта оболочка вмешивается на этапе подготовки к выборке (PREPARE_SAMPLING), применяя указанное пользователем значение memory_usage_factor к модели, тем самым переопределяя её внутренний фактор использования памяти по умолчанию. Внутренняя реализация включает потенциальную корректировку процесса прямого распространения модели (например, метода wan_ffn_chunked_forward) для управления стратегией разбиения тензоров на блоки при вычислениях, что влияет на пиковое использование видеопамяти.

Описание параметров узла — Model Memory Usage Factor Override

Входные соединения (Inputs)

Параметры управления (Parameters)

Выходные данные (Output)

Сценарии использования

Если вы работаете с изображениями высокого разрешения или сложными моделями и сталкиваетесь с ошибкой нехватки видеопамяти (Out of Memory, OOM), вы можете вставить этот узел между узлом загрузки модели (Load Checkpoint) и узлом сэмплера (KSampler). Путем соответствующего уменьшения значения memory_usage_factor (например, установив его на 0.8) можно попытаться снизить объем видеопамяти, требуемый для однократного вычисления, и таким образом выполнить задачу генерации при ограниченном объеме памяти GPU.

Важные замечания

Этот узел помечен как экспериментальный (EXPERIMENTAL). Его поведение и эффективность могут различаться в зависимости от архитектуры модели или версии ComfyUI. Изменение фактора использования памяти может повлиять на скорость генерации, а в крайних значениях даже привести к снижению качества изображения или ошибкам вычислений. Рекомендуется проверять результат после внесения корректировок.

Ссылка на исходный код узла Model Memory Usage Factor Override

Узел Model Memory Usage Factor Override взят из пакета узлов ComfyUI-KJNodes.