Qwen3-VL-4B Heretic: Codificador de texto sin censura para Krea 2 en ComfyUI
DreamFast lanza un codificador de texto Qwen3-VL-4B sin censura para ComfyUI, logrando un 100% de HarmBench ASR en formatos BF16, FP8, INT8, NVFP4 y MXFP8.
DreamFast ha lanzado Qwen3-VL-4B-Instruct Heretic (ComfyUI), una versión completamente ablacionada del codificador de texto Qwen3-VL-4B-Instruct empaquetada específicamente para ComfyUI. El modelo elimina las barreras de seguridad mientras preserva la calidad de salida, logrando un 100% de HarmBench ASR (Tasa de éxito de ataque) en comparación con el 30.8% del modelo base, con una regresión mínima en los benchmarks.
¿Qué es un codificador de texto ablacionado?
La ablación (abliteration) es el proceso de eliminar selectivamente los circuitos de rechazo de seguridad de un modelo sin volver a entrenarlo. Para flujos de trabajo de generación de imágenes como Krea 2, el codificador de texto interpreta las indicaciones del usuario, y el codificador Qwen3-VL-4B estándar rechaza aproximadamente el 30% del contenido solicitado. La variante Heretic elimina estos rechazos manteniendo intacta la comprensión semántica del codificador.
El informe forense muestra una divergencia KL de solo 0.0283 (cuanto más bajo, mejor) y una caída de GSM8K de solo −1.83%, lo que la convierte en la variante menos disruptiva entre todas las pruebas.
Cinco formatos de cuantización
El modelo está disponible en cinco formatos, cubriendo desde precisión completa hasta 4 bits optimizado para Blackwell:
| Formato | Tamaño | Hardware | Mejor para |
|---|---|---|---|
| BF16 | 8.3 GB | Cualquier GPU | Máxima fidelidad |
| FP8 E4M3 | 4.2 GB | Ada+ (RTX 4090) | Velocidad y calidad equilibradas |
| INT8 ConvRot | 4.5 GB | Cualquier GPU Ampere+ | Recomendado: casi sin pérdidas, no requiere Blackwell |
| NVFP4 E2M1 | 2.9 GB | Blackwell (RTX 5090/5080) | Tamaño más pequeño, núcleos tensoriales FP4 nativos |
| MXFP8 | 4.7 GB | Blackwell | Mejor rango dinámico con escalas de bloque E8M0 |
La variante INT8 ConvRot utiliza redondeo aprendido guiado por SVD para minimizar el error de salida, lo que la convierte en la opción recomendada para la mayoría de los usuarios: funciona en cualquier GPU Ampere o posterior sin necesidad de hardware Blackwell.
Uso con Krea 2 en ComfyUI
Krea 2 utiliza un codificador de texto Qwen3-VL-4B como intérprete de indicaciones. El checkpoint Heretic es un reemplazo directo:
- Descargue uno de los archivos
.safetensorsdesde HuggingFace - Colóquelo en
ComfyUI/models/text_encoders/ - Utilice el mismo nodo cargador: el modelo usa la arquitectura Qwen3-VL-4B idéntica
El checkpoint fp8 (4.2 GB) es la opción más cercana al archivo qwen3vl_4b_fp8_scaled.safetensors estándar. Para mayor fidelidad con indicaciones sin censura, use las variantes int8 o bf16.
Variantes disponibles
El repositorio de ComfyUI se suma a una familia de tres distribuciones del modelo Heretic:
- Qwen3-VL-4b-Heretic — Pesos BF16 para transformers/vLLM con codificador visual completo
- Qwen3-VL-4b-Heretic-GGUF — Cuantizaciones GGUF para llama.cpp/Ollama/LM Studio
- Qwen3-VL-4b-Heretic-ComfyUI — Checkpoints de codificador de texto para ComfyUI (este lanzamiento)
Los cuantizadores de la comunidad ya han producido variantes GGUF adicionales con más de 1,000 descargas combinadas en cuestión de horas desde el lanzamiento.
Integridad del modelo
La ablación solo modifica 54 tensores (ediciones puras de rango 1), dejando intacta la gran mayoría del modelo. La puntuación MMLU en realidad mejoró en un +0.03% (69.61% frente a 69.58%), mientras que GSM8K cayó solo un 1.83%, un compromiso aceptable para la capacidad de eliminación total de censura.
Nota: Este modelo elimina la alineación de seguridad y cumplirá con solicitudes dañinas. Úselo de manera responsable y de acuerdo con las leyes y regulaciones aplicables.
Enlaces
- Modelo: DreamFast/Qwen3-VL-4b-Heretic-ComfyUI
- Herramienta de ablación: Heretic por p-e-w
- Cuantización: convert-to-quant por silveroxides
- Pipeline Docker: heretic-docker