TorchCompileControlNet

Le nœud TorchCompileControlNet, qui utilise en interne torch.compile.

TorchCompileControlNet est un nœud utilitaire conçu pour optimiser les performances d'inférence des modèles ControlNet. En utilisant la technologie de compilation à la volée (JIT) de PyTorch, il convertit le modèle ControlNet dans un format d'exécution plus efficace, visant à accélérer le traitement des flux de travail de génération d'images.

Fonctionnalités du nœud

Ce nœud utilise en interne la fonction torch.compile pour compiler le modèle ControlNet fourni en entrée. Il permet à l'utilisateur de choisir différents backends de compilation (comme inductor) et modes d'optimisation (comme max-autotune), et prend en charge l'activation du mode graphe complet pour des optimisations plus agressives. Le processus de compilation est effectué une seule fois, et le nœud conserve en interne l'état de compilation pour éviter les opérations répétées.

Explication des paramètres du nœud - TorchCompileControlNet

Entrées (Inputs)

Nom du paramètre	Type de données	Requis	Valeur par défaut	Plage de valeurs/Options	Description
`controlnet`	CONTROL_NET	Oui	-	-	: Le modèle ControlNet à compiler et optimiser en entrée.

Paramètres de contrôle (Parameters)

Nom du paramètre	Type de données	Requis	Valeur par défaut	Plage de valeurs/Options	Description
`backend`	COMBO	Oui	inductor	"inductor", "cudagraphs"	: Sélectionne le moteur backend utilisé par la compilation PyTorch. Les valeurs possibles sont `inductor` ou `cudagraphs`.
`mode`	COMBO	Oui	default	"default", "max-autotune", "max-autotune-no-cud...	: Sélectionne le mode d'optimisation de compilation. Les valeurs possibles sont `default`, `max-autotune`, `max-autotune-no-cudagraphs` ou `reduce-overhead`.
`fullgraph`	BOOLEAN	Oui	False	-	Activer le mode graphe complet

Sortie (Output)

Nom du paramètre	Type de données	Description
CONTROL_NET	CONTROL_NET	: Le modèle ControlNet compilé et optimisé en sortie.

Cas d'utilisation

Dans un flux de travail nécessitant des itérations rapides ou une génération d'images en lot, vous pouvez connecter ce nœud après le chargeur de ControlNet et avant l'échantillonneur. En compilant le ControlNet, vous pouvez réduire considérablement le temps consommé par un échantillonnage unique ou multiple, tout en maintenant la qualité de génération. Ceci est particulièrement utile pour les applications en temps réel exigeant une vitesse de génération ou pour les scénarios de création de contenu à grande échelle.

Notes

Ce nœud est marqué comme une fonctionnalité expérimentale. Son efficacité de compilation et sa stabilité peuvent varier en fonction de la version de PyTorch, des pilotes matériels et du modèle spécifique. Si la compilation échoue, le nœud lèvera une erreur d'exécution. Vous devrez vérifier la compatibilité de votre environnement ou essayer différentes combinaisons de paramètres de compilation.

Lien vers le code source du nœud TorchCompileControlNet

Le nœud TorchCompileControlNet provient du pack de nœuds ComfyUI-KJNodes.