Qwen3-VL-4B Heretic: Бесцензурный текстовый энкодер для Krea 2 в ComfyUI
DreamFast выпускает бесцензурный текстовый энкодер Qwen3-VL-4B для ComfyUI, достигающий 100% ASR HarmBench в форматах BF16, FP8, INT8, NVFP4 и MXFP8.
DreamFast выпустил Qwen3-VL-4B-Instruct Heretic (ComfyUI) — полностью аблитерированную версию текстового энкодера Qwen3-VL-4B-Instruct, специально упакованную для ComfyUI. Модель удаляет предохранительные ограничения безопасности, сохраняя качество вывода, достигая 100% ASR HarmBench (Attack Success Rate) по сравнению с 30,8% у базовой модели — с минимальной регрессией бенчмарков.
Что такое аблитерированный текстовый энкодер?
Аблитерация — это процесс выборочного удаления цепей отказа безопасности из модели без переобучения. Для рабочих процессов генерации изображений, таких как Krea 2, текстовый энкодер интерпретирует подсказки пользователя — и стандартный энкодер Qwen3-VL-4B отклоняет около 30% запрошенного контента. Вариант Heretic устраняет эти отказы, сохраняя семантическое понимание энкодера.
Криминалистический отчет показывает расхождение KL всего 0,0283 (чем меньше, тем лучше) и падение GSM8K всего на −1,83%, что делает его наименее разрушительным вариантом среди всех испытаний.
Пять форматов квантования
Модель доступна в пяти форматах, охватывающих все от полной точности до оптимизированного для Blackwell 4-битного:
| Формат | Размер | Оборудование | Назначение |
|---|---|---|---|
| BF16 | 8,3 ГБ | Любой GPU | Максимальная точность |
| FP8 E4M3 | 4,2 ГБ | Ada+ (RTX 4090) | Сбалансированная скорость и качество |
| INT8 ConvRot | 4,5 ГБ | Любой Ampere+ GPU | Рекомендуется — почти без потерь, не требуется Blackwell |
| NVFP4 E2M1 | 2,9 ГБ | Blackwell (RTX 5090/5080) | Наименьший размер, собственные тензорные ядра FP4 |
| MXFP8 | 4,7 ГБ | Blackwell | Лучший динамический диапазон с блочными шкалами E8M0 |
Вариант INT8 ConvRot использует SVD-управляемое обученное округление для минимизации ошибки вывода, что делает его рекомендуемым выбором для большинства пользователей — он работает на любом GPU от Ampere и выше без необходимости оборудования Blackwell.
Использование с Krea 2 в ComfyUI
Krea 2 использует текстовый энкодер Qwen3-VL-4B в качестве интерпретатора подсказок. Чекпоинт Heretic является заменой без изменений:
- Загрузите один из файлов
.safetensorsс HuggingFace - Поместите его в
ComfyUI/models/text_encoders/ - Используйте тот же узел загрузчика — модель использует идентичную архитектуру Qwen3-VL-4B
Чекпоинт fp8 (4,2 ГБ) наиболее близок к стандартному qwen3vl_4b_fp8_scaled.safetensors. Для более высокой точности с бесцензурными подсказками используйте варианты int8 или bf16.
Доступные варианты
Репозиторий ComfyUI присоединяется к семейству из трех дистрибутивов модели Heretic:
- Qwen3-VL-4b-Heretic — веса BF16 для transformers/vLLM с полным энкодером изображений
- Qwen3-VL-4b-Heretic-GGUF — квантизации GGUF для llama.cpp/Ollama/LM Studio
- Qwen3-VL-4b-Heretic-ComfyUI — чекпоинты текстового энкодера для ComfyUI (этот релиз)
Сообщество квантователей уже создало дополнительные варианты GGUF, суммарно набравшие более 1000 загрузок в течение нескольких часов после выпуска.
Целостность модели
Аблитерация изменяет только 54 тензора (чистые правки ранга 1), оставляя подавляющее большинство модели нетронутым. Оценка MMLU фактически улучшилась на +0,03% (69,61% против 69,58%), в то время как GSM8K снизился всего на 1,83% — приемлемый компромисс для полной возможности бесцензурной работы.
Примечание: Эта модель удаляет выравнивание безопасности и будет выполнять вредоносные запросы. Используйте ее ответственно и в соответствии с применимыми законами и нормативными актами.
Ссылки
- Модель: DreamFast/Qwen3-VL-4b-Heretic-ComfyUI
- Инструмент аблитерации: Heretic от p-e-w
- Квантование: convert-to-quant от silveroxides
- Конвейер Docker: heretic-docker