TailSteer stabilise 20 tours d'édition sur Qwen-Image 2.1

ComfyUI Wikinews

TailSteer est une étape d'entraînement finale pour Qwen-Image 2.1 qui stoppe la dérive sur les longues chaînes d'édition, avec quatre workflows ComfyUI natifs.

TailSteer est une étape d'entraînement finale pour Qwen-Image 2.1, publiée le 4 novembre, qui empêche une chaîne d'édition de dériver. Elle est livrée sous forme d'un transformer BF16 complet pour ComfyUI/models/diffusion_models/, fonctionne avec les nœuds natifs Qwen-Image 2.1 et s'accompagne de quatre flux de travail prêts à l'emploi.

Éditez une image dix fois de suite et la dernière image n'est plus la même : la peau devient plastique, le texte se déforme, les détails de l'arrière-plan s'adoucissent, et aucune des instructions ne demandait cela. TailSteer entraîne le modèle à survivre à cette boucle sans perdre la qualité de la première édition dont il disposait au départ.

Modèle de base après vingt éditions
Tour 20 de vingt éditions successives, modèle de base contre TailSteer, issu du jeu d'exemples du projet

Ce que cela change

Sur le benchmark Add & Preserve du projet, qui ajoute un petit objet par tour pendant dix tours et note ce qui est resté intact, TailSteer conserve le taux de complétion des objets du modèle de base tout en améliorant tout ce qui se trouve hors de la boîte d'édition :

Métrique, tour 10BaseTailSteer
COA, complétion des objets (%) ↑67.3666.94
PSNR hors zone d'édition ↑16.9318.15
SSIM hors zone d'édition ↑0.4380.513
LPIPS hors zone d'édition ↓0.2700.239

Le compromis est faible : Qwen-IB EN 53.39 → 53.06, GEdit EN 8.11 → 8.04, ImgEdit 4.40 → 4.42. Le text-to-image fonctionne toujours à partir du même checkpoint, et aucun masque de préservation ni changement de modèle n'est nécessaire à l'inférence.

Paires text-to-image, même prompt et même graine

Même prompt et même graine : modèle de base contre TailSteer.

L'utiliser dans ComfyUI

  1. Mettez à jour ComfyUI vers une version qui inclut TextEncodeQwenImage21 et QwenImage21Cache, puis placez qwen_image_2.1_tailsteer_bf16.safetensors (14.23 GB) dans models/diffusion_models/.
  2. Ajoutez les composants de base inchangés : qwen3vl_8b_bf16.safetensors dans models/text_encoders/ (17.53 GB) et qwen_image_2.1_vae_bf16.safetensors dans models/vae/, tous deux issus de Comfy-Org/Qwen-Image-2.1.
  3. Glissez un flux de travail et lancez : 40 étapes Euler, CFG 1.0, cache KV sans perte, résolution de référence 1024.

Dans le flux de travail à trois tours, chaque VAE Decode alimente le Text Encode Qwen Image 2.1 suivant : dupliquer une étape d'édition allonge donc la chaîne.

Un réglage à respecter : l'échantillonneur utilise des Sigmas manuels construits à partir du dynamic shift publié, et le plan simple générique de ComfyUI ne correspond pas à la même courbe. Si vous changez la taille de sortie ou le nombre d'étapes, régénérez-le avec le comfyui_sigmas.py du projet et recollez le résultat.

La configuration validée est une H100 80 GB avec des composants BF16 ; les configurations quantisées et sur GPU grand public n'ont pas été vérifiées. Les flux de travail d'exemple tournent en 1280×832, 960×1120 et 1024×1024.

Disponibilité

La carte du modèle indique qu'une version plus puissante, avec environ deux fois la capacité de préservation, est en cours d'entraînement.

Commentaires

Connectez-vous avec GitHub pour rejoindre la discussion.

Chargement des commentaires…
TailSteer stabilise 20 tours d'édition sur Qwen-Image 2.1 | ComfyUI Wiki