KJNodes/ltxvgenerated

LTXV Chunk FeedForward(LTXVChunkFeedForward)

EXPÉRIMENTAL ET PEUT MODIFIER LA SORTIE DU MODÈLE !! Divise les activations feedforward en blocs pour réduire la consommation de VRAM maximale.

LTXV Chunk Feed Forward

model
model
chunks
2
dim_threshold
4096
KJNodes

Description

Ce nœud divise en blocs les activations feedforward à l'intérieur du modèle LTXV pour réduire la consommation de VRAM maximale. EXPÉRIMENTAL ET PEUT MODIFIER LA SORTIE DU MODÈLE !! Utilisez avec précaution et vérifiez les résultats par rapport au modèle non modifié. La division des activations en petits morceaux permet de traiter des résolutions ou séquences plus grandes sans dépasser les limites de mémoire, mais peut altérer la précision numérique (notamment dans les chemins d'attention ou de normalisation) et donc affecter la qualité finale de la sortie.

Entrées

EntréeTypeRequisPar défautPlageInfo-bulle
modelMODELOuiLe modèle LTXV à modifier.
chunksINTOui2[1, 100], pas 1Nombre de blocs dans lesquels diviser les activations feedforward pour réduire la consommation de VRAM maximale. Des valeurs plus élevées réduisent davantage la mémoire maximale mais peuvent augmenter le temps d'exécution et modifier les sorties. Une valeur de 1 désactive complètement la division en blocs.
dim_thresholdINTOui4096[0, 16384], pas 256Seuil de dimension au-dessus duquel appliquer la division en blocs. Seuls les calques dont la taille cachée est supérieure ou égale à ce seuil seront divisés en blocs. Réglez sur 0 pour diviser chaque calque (économie de mémoire maximale, plus grand risque de changement de sortie).

Sorties

SortieTypeDescription
modelMODELLe modèle LTXV modifié avec des activations feedforward divisées en blocs appliquées selon les paramètres donnés.

Notes d'utilisation

  • Ce nœud est destiné aux utilisateurs avancés qui ont besoin d'ajuster de très grandes variantes de modèle LTXV ou des flux de travail de génération haute résolution dans une VRAM limitée.
  • Étant donné que la division en blocs modifie l'ordre des opérations à l'intérieur du bloc feedforward, les résultats numériques ne sont pas bit‑identiques au modèle non modifié. Testez toujours les sorties sur des prompts représentatifs avant de vous fier à la version divisée en blocs pour la production.
  • dim_threshold vous permet de restreindre la division en blocs aux plus grands calques (les plus gourmands en mémoire). Pour les modèles LTXV typiques, définir dim_threshold sur 4096 ne divise que les plus grands calques, équilibrant l'économie de mémoire et la fidélité de la sortie.
  • Augmenter chunks au-delà de 8–16 donne généralement des rendements de mémoire décroissants et peut augmenter la surcharge ; 2–8 est une plage pratique pour la plupart des cas d'utilisation.
  • Si vous rencontrez des artefacts inattendus ou des erreurs de mémoire insuffisante, essayez de réduire chunks ou d'augmenter dim_threshold.

Commentaires

Connectez-vous avec GitHub pour rejoindre la discussion.

Chargement des commentaires…
LTXV Chunk FeedForward (LTXVChunkFeedForward) - ComfyUI-KJNodes | ComfyUI Wiki