Patch Sage Attention KJ(PathchSageAttentionKJ)
Ce nœud fonctionne en clonant le modèle d’entrée et en définissant une fonction de remplacement d’attention optimisée dans ses options de modèle.
Pathch Sage Attention KJ
Le nœud Patch Sage Attention KJ fonctionne en clonant le modèle d’entrée et en définissant une fonction de remplacement d’attention optimisée dans ses options de modèle.
Le nœud Patch Sage Attention KJ est un outil expérimental conçu pour modifier dynamiquement le mécanisme de calcul de l’attention dans les modèles de diffusion. Sa fonction principale est de permettre à l’utilisateur de remplacer globalement le module d’attention standard du modèle par le mode Sage Attention lors de la génération d’images, afin d’explorer différents effets de génération ou des optimisations de performance potentielles.
Fonctionnalités du nœud
Ce nœud fonctionne en clonant le modèle d’entrée et en définissant une fonction de remplacement d’attention optimisée dans ses options de modèle. Il ne dépend pas du système standard de correction de modèle de ComfyUI, mais opère directement sur les transformer_options du modèle. Le nœud permet de sélectionner des modes d’attention spécifiques à partir de la bibliothèque Sage Attention et offre la possibilité d’activer la fonction torch.compile de PyTorch pour tenter d’accélérer les calculs, ce qui nécessite toutefois Sage Attention version 2.2.0 ou supérieure.
Explication des paramètres du nœud - Patch Sage Attention KJ
Entrées de connexion (Inputs)
| Nom du paramètre | Type de données | Requis | Valeur par défaut | Plage de valeurs/Options | Description |
|---|---|---|---|---|---|
model | MODEL | Oui | - | - | Accepte le modèle de diffusion à modifier, servant de base pour le remplacement du mécanisme d’attention. |
Paramètres de contrôle (Parameters)
| Nom du paramètre | Type de données | Requis | Valeur par défaut | Plage de valeurs/Options | Description |
|---|---|---|---|---|---|
sage_attention | COMBO | Oui | False | - | Applique globalement un correctif à l’attention ComfyUI pour utiliser sageattn. Une fois appliqué, pour revenir à la normale, vous devrez exécuter à nouveau ce nœud avec l’option désactivée. |
allow_compile | BOOLEAN | Non | False | - | Permet l’utilisation de torch.compile pour la fonction d’attention sage. Nécessite la dernière version de sageattn 2.2.0 ou supérieure. |
Sortie
| Nom du paramètre | Type de données | Description |
|---|---|---|
| MODEL | MODEL | Renvoie une copie du modèle sur laquelle le correctif du mode Sage Attention spécifié a été appliqué. |
Cas d’utilisation
Dans un flux de travail de génération d’images, vous pouvez connecter ce nœud après le nœud de chargement du modèle et avant le nœud d’échantillonnage. Activez ce nœud et sélectionnez le mode correspondant lorsque vous souhaitez expérimenter les différents effets stylistiques ou les gains de vitesse potentiels offerts par Sage Attention. Pour retrouver les effets de génération standard, vous devrez exécuter à nouveau ce nœud et définir le mode sur "disabled".
Notes importantes
Veuillez noter qu’il s’agit d’un nœud expérimental ; son comportement peut être instable ou évoluer avec les mises à jour des bibliothèques dépendantes. Une fois le correctif appliqué, il est impossible de revenir à l’état d’attention original sans réexécuter le nœud et le désactiver.
Lien vers le code source du nœud Patch Sage Attention KJ
Le nœud Patch Sage Attention KJ provient du pack de nœuds ComfyUI-KJNodes.
Commentaires
Connectez-vous avec GitHub pour rejoindre la discussion.