Qwen3-VL-4B Heretic : Un encodeur de texte non censuré pour Krea 2 dans ComfyUI

DreamFast a publié Qwen3-VL-4B-Instruct Heretic (ComfyUI), une version totalement ablitéree (ablitération) de l'encodeur de texte Qwen3-VL-4B-Instruct, conditionnée spécifiquement pour ComfyUI. Le modèle supprime les barrières de sécurité tout en préservant la qualité de sortie, atteignant un taux de réussite d'attaque (HarmBench ASR) de 100 % contre 30,8 % pour le modèle de base – avec une régression minimale sur les benchmarks.

Qu'est-ce qu'un encodeur de texte ablitére ?

L'ablitération est le processus de suppression sélective des circuits de refus de sécurité d'un modèle sans réentraînement. Pour les flux de génération d'images comme Krea 2, l'encodeur de texte interprète les invites des utilisateurs – et l'encodeur Qwen3-VL-4B standard rejette environ 30 % du contenu demandé. La variante Heretic élimine ces refus tout en conservant la compréhension sémantique de l'encodeur.

Le rapport forensique montre une divergence KL de seulement 0,0283 (plus bas c'est mieux) et une baisse de seulement −1,83 % sur GSM8K, ce qui en fait la variante la moins perturbatrice parmi tous les essais.

Cinq formats de quantification

Le modèle est disponible en cinq formats, couvrant tout, de la pleine précision aux 4 bits optimisés pour Blackwell :

Format	Taille	Matériel	Meilleur pour
BF16	8.3 Go	N'importe quel GPU	Fidélité maximale
FP8 E4M3	4.2 Go	Ada+ (RTX 4090)	Équilibre vitesse et qualité
INT8 ConvRot	4.5 Go	N'importe quel GPU Ampere+	Recommandé - quasi sans perte, pas de Blackwell requis
NVFP4 E2M1	2.9 Go	Blackwell (RTX 5090/5080)	Taille minimale, cœurs tensoriels FP4 natifs
MXFP8	4.7 Go	Blackwell	Meilleure plage dynamique avec échelles de blocs E8M0

La variante INT8 ConvRot utilise un arrondi guidé par SVD pour minimiser l'erreur de sortie, ce qui en fait le choix recommandé pour la plupart des utilisateurs – elle fonctionne sur n'importe quel GPU Ampere ou ultérieur sans nécessiter de matériel Blackwell.

Utilisation avec Krea 2 dans ComfyUI

Krea 2 utilise un encodeur de texte Qwen3-VL-4B comme interpréteur d'invite. Le point de contrôle Heretic est un remplacement direct :

1. Téléchargez l'un des fichiers .safetensors depuis HuggingFace
2. Placez-le dans ComfyUI/models/text_encoders/
3. Utilisez le même nœud de chargement – le modèle utilise l'architecture Qwen3-VL-4B identique

Le point de contrôle fp8 (4,2 Go) est le plus proche du qwen3vl_4b_fp8_scaled.safetensors standard. Pour une fidélité plus élevée avec des invites non censurées, utilisez les variantes int8 ou bf16.

Variantes disponibles

Le dépôt ComfyUI rejoint une famille de trois distributions du modèle Heretic :

• Qwen3-VL-4b-Heretic – poids BF16 pour transformers/vLLM avec encodeur visuel complet
• Qwen3-VL-4b-Heretic-GGUF – quantifications GGUF pour llama.cpp/Ollama/LM Studio
• Qwen3-VL-4b-Heretic-ComfyUI – points de contrôle d'encodeur de texte ComfyUI (cette version)

Les quantificateurs communautaires ont déjà produit des variantes GGUF supplémentaires avec plus de 1 000 téléchargements combinés en quelques heures après la publication.

Intégrité du modèle

L'ablitération ne modifie que 54 tenseurs (pures modifications de rang 1), laissant la grande majorité du modèle intacte. Le score MMLU a en fait augmenté de +0,03 % (69,61 % contre 69,58 %), tandis que GSM8K a chuté de seulement 1,83 % – un compromis acceptable pour une capacité de non-censure complète.

Remarque : Ce modèle supprime l'alignement de sécurité et répondra aux demandes nuisibles. Utilisez-le de manière responsable et conformément aux lois et règlements applicables.

Liens

• Modèle : DreamFast/Qwen3-VL-4b-Heretic-ComfyUI
• Outil d'ablitération : Heretic par p-e-w
• Quantification : convert-to-quant par silveroxides
• Pipeline Docker : heretic-docker