Patch Sage Attention KJ(PathchSageAttentionKJ)
Este nodo funciona clonando el modelo de entrada y configurando una función de anulación de atención optimizada en sus opciones de modelo.
Pathch Sage Attention KJ
El nodo Patch Sage Attention KJ implementa su funcionalidad clonando el modelo de entrada y configurando una función optimizada de anulación de atención en sus opciones de modelo.
El nodo Patch Sage Attention KJ es una herramienta experimental diseñada para modificar dinámicamente el mecanismo de cálculo de atención en modelos de difusión. Su función principal permite a los usuarios reemplazar globalmente los módulos de atención estándar del modelo por el modo Sage Attention durante la generación de imágenes, para explorar diferentes efectos de generación o posibles optimizaciones de rendimiento.
Funcionalidad del Nodo
Este nodo funciona clonando el modelo de entrada y configurando una función optimizada de anulación de atención en sus opciones de modelo. No depende del sistema estándar de parcheo de modelos de ComfyUI, sino que opera directamente sobre las transformer_options del modelo. El nodo permite seleccionar modos de atención específicos de la biblioteca Sage Attention y opcionalmente habilitar la función torch.compile de PyTorch para intentar acelerar los cálculos, aunque esto requiere Sage Attention versión 2.2.0 o superior.
Explicación de los Parámetros del Nodo - Patch Sage Attention KJ
Entradas de Conexión (Inputs)
| Nombre del Parámetro | Tipo de Dato | Obligatorio | Valor por Defecto | Rango de Valores/Opciones | Descripción |
|---|---|---|---|---|---|
model | MODEL | Sí | - | - | Acepta el modelo de difusión a modificar, que sirve como base para el reemplazo del mecanismo de atención. |
Parámetros de Control (Parameters)
| Nombre del Parámetro | Tipo de Dato | Obligatorio | Valor por Defecto | Rango de Valores/Opciones | Descripción |
|---|---|---|---|---|---|
sage_attention | COMBO | Sí | False | - | Aplica un parche global a la atención de ComfyUI para usar sageattn. Una vez aplicado, para revertir a la normalidad será necesario ejecutar este nodo nuevamente con la opción deshabilitada. |
allow_compile | BOOLEAN | No | False | - | Permite el uso de torch.compile para la función de atención sage, requiere la última versión de sageattn 2.2.0 o superior. |
Salida (Output)
| Nombre del Parámetro | Tipo de Dato | Descripción |
|---|---|---|
| MODEL | MODEL | Devuelve una copia del modelo con el parche del modo Sage Attention especificado aplicado. |
Casos de Uso
En un flujo de trabajo de generación de imágenes, puedes conectar este nodo después del nodo de carga del modelo y antes del nodo del muestreador. Cuando desees probar los diferentes efectos estilizados o la posible mejora de velocidad que ofrece Sage Attention, habilita este nodo y selecciona el modo correspondiente; si quieres volver al efecto de generación estándar, necesitarás ejecutar este nodo nuevamente y configurar el modo en "disabled".
Consideraciones
Ten en cuenta que este es un nodo experimental, su comportamiento puede ser inestable o cambiar con las actualizaciones de las bibliotecas de las que depende. Una vez aplicado el parche, no se puede volver al estado de atención original a menos que se vuelva a ejecutar el nodo con el parche deshabilitado.
Enlace al Código Fuente del Nodo Patch Sage Attention KJ
El nodo Patch Sage Attention KJ proviene del paquete de nodos ComfyUI-KJNodes.
Comentarios
Inicia sesión con GitHub para unirte a la conversación.