Ideogram V4 Fast и Instant: скоростные дистиллированные варианты от Fal для ComfyUI
Fal выпускает Ideogram V4 Fast (20 шагов, FP4, 5 секунд инференса) и Ideogram V4 Instant (8 шагов, BF16, 2 секунды инференса) – скоростные дистиллированные варианты с поддержкой no-CFG. Доступны в формате int8-convrot для ComfyUI через Hippotes.
Fal выпустила два скоростных дистиллированных варианта модели Ideogram V4 для генерации изображений по тексту – Ideogram V4 Fast и Ideogram V4 Instant – которые значительно ускоряют инференс, сохраняя визуальное качество.
Оба варианта теперь доступны на Hugging Face как открытые веса, а сообщество предоставило версии int8-convrot, готовые для ComfyUI.
Что нового
Два новых варианта решают разные компромиссы между скоростью и качеством:
| Вариант | Шаги | Точность | Время инференса (NVFP4) | Ключевая техника |
|---|---|---|---|---|
| Базовый (NVFP4) | 20+ CFG | NVFP4 | ~11 с | Оригинал |
| Fast | 20 | FP4/NVFP4 | ~5 с | Дистилляция CFG + QAD |
| Instant | 8 | BF16 | ~2 с | Без CFG, 8-шаговая дистилляция |
Обе модели получены из ideogram-ai/ideogram-4-fp8 с использованием квантования с учётом дистилляции (QAD) и дистилляции CFG.
- Ideogram V4 Fast (hf.co/fal/ideogram-v4-fast): чекпоинт с мишенью FP4 на 20 шагов, который сворачивает управляемое предсказание в одну условную ветвь, устраняя необходимость в безусловном скоринге. Это сочетает скоростную дистилляцию с квантованием NVFP4.
- Ideogram V4 Instant (hf.co/fal/ideogram-v4-instant): чекпоинт на 8 шагов, работающий без CFG (classifier-free guidance), что дополнительно снижает вычислительную нагрузку. Это веса BF16 из этапа до QAD, обеспечивающие максимальную совместимость.
Поддержка ComfyUI
Участник сообщества Hippotes упаковал оба варианта для ComfyUI в Hippotes/Ideogram4-Fal-ComfyUI, включая версии int8-convrot:
- Чекпоинты BF16 для Fast и Instant
- Квантованные версии int8-convrot для повышения производительности на GPU Nvidia (серии 20/30/40/50)
Благодаря архитектуре без CFG этих вариантов, рабочие процессы ComfyUI больше не требуют узлов Dual Model CFG Guider или CFG Override, а также отпадает необходимость загружать безусловную диффузионную модель – это упрощает настройку рабочего процесса.
Скоростные бенчмарки
Бенчмарки, опубликованные сообществом на GPU RTX 6000 PRO (Ada), показывают:
- Базовый NVFP4: 11 секунд на генерацию
- Fast NVFP4: 5 секунд на генерацию (ускорение в 2.2 раза)
- Instant NVFP4: 2 секунды на генерацию (ускорение в 5.5 раз)
Технические детали
В сопутствующей статье в блоге fal подробно описал свой подход к достижению инференса Ideogram V4 за долю секунды. Комбинируя квантование с учётом дистилляции, дистилляцию CFG и нацеливание на FP4, fal сообщает о 6-кратном ускорении по сравнению с исходными 2.75 с (на их инфраструктуре) до 0.44 с без видимых потерь качества.
Доступность
- Ideogram V4 Fast: Hugging Face – FP4, 20 шагов, CFG-дистиллированный
- Ideogram V4 Instant: Hugging Face – BF16, 8 шагов, без CFG
- Версии для ComfyUI (int8-convrot + BF16): Hippotes/Ideogram4-Fal-ComfyUI
