Ideogram V4 Fast 与 Instant: Fal 为 ComfyUI 推出的速度蒸馏变体
news
Fal 发布了 Ideogram V4 Fast(20 步 FP4,5 秒推理)和 Ideogram V4 Instant(8 步 BF16,2 秒推理),支持无 CFG 的速度蒸馏变体。通过 Hippotes 提供适用于 ComfyUI 的 int8-convrot 格式。
Fal 发布了 Ideogram V4 文生图模型的两个速度蒸馏变体 —— Ideogram V4 Fast 和 Ideogram V4 Instant —— 在保持视觉质量的同时显著提升了推理速度。
这两个变体现在已作为开源权重在 Hugging Face 上提供,社区也推出了适用于 ComfyUI 的 int8-convrot 版本。
新功能
两个新变体解决了不同的速度-质量权衡:
| 变体 | 步数 | 精度 | 推理时间(NVFP4) | 核心技术 |
|---|---|---|---|---|
| 基础版(NVFP4) | 20+ CFG | NVFP4 | ~11 秒 | 原始 |
| Fast | 20 | FP4/NVFP4 | ~5 秒 | CFG 蒸馏 + QAD |
| Instant | 8 | BF16 | ~2 秒 | 无 CFG,8 步蒸馏 |
两个模型均源自 ideogram-ai/ideogram-4-fp8,采用了量化感知蒸馏(QAD)和 CFG 蒸馏技术。
- Ideogram V4 Fast (hf.co/fal/ideogram-v4-fast):面向 FP4 的 20 步模型,将引导预测折叠到单个条件分支中,无需无条件评分。该变体结合了速度蒸馏与 NVFP4 量化。
- Ideogram V4 Instant (hf.co/fal/ideogram-v4-instant):8 步模型,无需 CFG(无分类器引导)即可运行,进一步减少计算量。这些是 QAD 阶段之前的 BF16 权重,兼容性最佳。
ComfyUI 支持
社区成员 Hippotes 已将两个变体打包为 ComfyUI 版本,存放于 Hippotes/Ideogram4-Fal-ComfyUI,包含 int8-convrot 版本:
- Fast 和 Instant 的 BF16 模型
- int8-convrot 量化版本,在 NVIDIA GPU(20/30/40/50 系列)上性能更优
这些变体采用无 CFG 架构,ComfyUI 工作流不再需要 Dual Model CFG Guider 或 CFG Override 节点,也无需加载无条件扩散模型,从而简化了工作流设置。
速度基准
社区在 RTX 6000 PRO(Ada)GPU 上分享的基准测试结果:
- 基础版 NVFP4:每张生成 11 秒
- Fast NVFP4:每张生成 5 秒(2.2 倍加速)
- Instant NVFP4:每张生成 2 秒(5.5 倍加速)
技术背景
在一篇配套博客文章中,Fal 详细介绍了其实现亚秒级 Ideogram V4 推理的方法。通过结合量化感知蒸馏、CFG 蒸馏和 FP4 目标,Fal 报告称,在其基础设施上从原始的 2.75 秒加速至 0.44 秒(6 倍加速),且无明显质量损失。
获取方式
- Ideogram V4 Fast:Hugging Face — FP4,20 步,CFG 蒸馏
- Ideogram V4 Instant:Hugging Face — BF16,8 步,无 CFG
- ComfyUI 版本(int8-convrot + BF16):Hippotes/Ideogram4-Fal-ComfyUI
