Model Memory Usage Factor Override (ModelMemoryUsageFactorOverride) - ComfyUI-KJNodes

El nodo Model Memory Usage Factor Override implementa su funcionalidad clonando el modelo de entrada y agregándole un envoltorio (Wrapper).

El nodo Model Memory Usage Factor Override es una herramienta experimental diseñada para ajustar dinámicamente el factor de uso de memoria del modelo durante el proceso de muestreo. Su función principal es anular la estrategia de uso de memoria original del modelo, permitiendo a los usuarios realizar ajustes finos según las condiciones del hardware o los requisitos de rendimiento, con el fin de optimizar el consumo de memoria de video.

Funcionalidad del Nodo

Este nodo implementa su funcionalidad clonando el modelo de entrada y agregándole un envoltorio (Wrapper). Este envoltorio interviene en la fase de preparación del muestreo (PREPARE_SAMPLING), aplicando el valor memory_usage_factor especificado por el usuario al modelo, anulando así su factor de uso de memoria interno predeterminado. Su implementación interna implica ajustes potenciales en el proceso de propagación hacia adelante del modelo (como el método wan_ffn_chunked_forward) para controlar la estrategia de fragmentación de tensores durante el cálculo, lo que a su vez afecta el pico de uso de memoria de video.

Explicación de Parámetros del Nodo - Model Memory Usage Factor Override

Entradas (Inputs)

Nombre del Parámetro	Tipo de Dato	Obligatorio	Valor por Defecto	Rango de Valores/Opciones	Descripción
`model`	MODEL	Sí	-	-	**: El modelo base cuyo factor de uso de memoria necesita ser ajustado. Este parámetro recibe un flujo de datos estándar del tipo MODEL.

Parámetros de Control (Parameters)

Nombre del Parámetro	Tipo de Dato	Obligatorio	Valor por Defecto	Rango de Valores/Opciones	Descripción
`memory_usage_factor`	FLOAT	Sí	1.0	0.0 - 100.0 (incremento: 0.001)	**: Multiplicador utilizado para anular el factor de uso de memoria original del modelo. El rango de valores es de 0.0 a 100.0, con un incremento de ajuste de 0.001. El valor por defecto 1.0 significa mantener el valor original.

Salidas (Output)

Nombre del Parámetro	Tipo de Dato	Descripción
MODEL	MODEL	**: Devuelve una nueva instancia de modelo modificada, cuyo comportamiento de uso de memoria ha sido ajustado según el factor ingresado.

Casos de Uso

Cuando estés procesando imágenes de alta resolución o modelos complejos y encuentres errores de memoria insuficiente (Out of Memory), puedes insertar este nodo entre la carga del modelo (Load Checkpoint) y el muestreador (KSampler). Al reducir apropiadamente el valor de memory_usage_factor (por ejemplo, estableciéndolo en 0.8), puedes intentar disminuir la memoria de video requerida para un solo cálculo, permitiendo así completar la tarea de generación con una GPU de memoria limitada.

Consideraciones

Este nodo está marcado como experimental (EXPERIMENTAL), y su comportamiento y efectos pueden variar según la arquitectura del modelo o la versión de ComfyUI. Ajustar el factor de uso de memoria puede afectar la velocidad de generación e, incluso con valores extremos, podría provocar una disminución en la calidad de la imagen o errores de cálculo. Se recomienda verificar los resultados después de realizar cualquier ajuste.

Enlace al Código Fuente del Nodo Model Memory Usage Factor Override

El nodo Model Memory Usage Factor Override proviene del paquete de nodos ComfyUI-KJNodes.

Model Memory Usage Factor Override(ModelMemoryUsageFactorOverride)