Model Memory Usage Factor Override (ModelMemoryUsageFactorOverride) - ComfyUI-KJNodes

Le nœud Model Memory Usage Factor Override fonctionne en clonant le modèle d'entrée et en lui ajoutant un wrapper.

Le nœud Model Memory Usage Factor Override est un outil expérimental permettant d'ajuster dynamiquement le facteur d'utilisation de la mémoire du modèle pendant le processus d'échantillonnage. Sa fonction principale est de remplacer la stratégie d'utilisation de la mémoire par défaut du modèle, permettant aux utilisateurs d'affiner les paramètres en fonction des capacités matérielles ou des besoins de performance, afin d'optimiser l'occupation de la mémoire vidéo.

Fonctionnalités du nœud

Ce nœud fonctionne en clonant le modèle d'entrée et en lui ajoutant un wrapper. Ce wrapper intervient pendant la phase de préparation de l'échantillonnage (PREPARE_SAMPLING) pour appliquer la valeur memory_usage_factor spécifiée par l'utilisateur au modèle, remplaçant ainsi son facteur d'utilisation de la mémoire interne par défaut. Son implémentation interne implique un ajustement potentiel du processus de propagation avant du modèle (comme la méthode wan_ffn_chunked_forward) afin de contrôler la stratégie de découpage des tenseurs pendant le calcul, influençant ainsi le pic d'utilisation de la mémoire vidéo.

Description des paramètres du nœud - Model Memory Usage Factor Override

Entrées (Inputs)

Nom du paramètre	Type de données	Requis	Valeur par défaut	Plage de valeurs/Options	Description
`model`	MODEL	Oui	-	-	**: Le modèle de base dont le facteur d'utilisation de la mémoire doit être ajusté. Ce paramètre reçoit un flux de données de type MODEL standard.

Paramètres de contrôle (Parameters)

Nom du paramètre	Type de données	Requis	Valeur par défaut	Plage de valeurs/Options	Description
`memory_usage_factor`	FLOAT	Oui	1.0	0.0 - 100.0 (Pas: 0.001)	**: Le multiplicateur utilisé pour remplacer le facteur d'utilisation de la mémoire d'origine du modèle. La plage de valeurs va de 0.0 à 100.0, avec un pas d'ajustement de 0.001. La valeur par défaut 1.0 signifie qu'aucun changement n'est apporté.

Sorties (Output)

Nom du paramètre	Type de données	Description
MODEL	MODEL	**: Produit une nouvelle instance de modèle modifiée, dont le comportement d'utilisation de la mémoire a été ajusté en fonction du facteur saisi.

Cas d'utilisation

Lorsque vous traitez des images haute résolution ou des modèles complexes et que vous rencontrez des erreurs de mémoire insuffisante (Out of Memory), vous pouvez insérer ce nœud entre le nœud Charger Point de Contrôle et le nœud KSampler. En réduisant modérément la valeur de memory_usage_factor (par exemple, à 0.8), vous pouvez tenter de diminuer la mémoire vidéo requise pour un seul calcul, permettant ainsi d'achever la tâche de génération avec une mémoire GPU limitée.

Notes importantes

Ce nœud est marqué comme expérimental (EXPERIMENTAL). Son comportement et ses effets peuvent varier selon l'architecture du modèle ou la version de ComfyUI. L'ajustement du facteur d'utilisation de la mémoire peut affecter la vitesse de génération et, dans certains cas extrêmes, entraîner une baisse de la qualité de l'image ou des erreurs de calcul. Il est recommandé de valider les résultats après tout ajustement.

Lien vers le code source du nœud Model Memory Usage Factor Override

Le nœud Model Memory Usage Factor Override provient du pack de nœuds ComfyUI-KJNodes.

Model Memory Usage Factor Override(ModelMemoryUsageFactorOverride)