Ideogram V4 Fast 与 Instant: Fal 为 ComfyUI 推出的速度蒸馏变体

news

Fal 发布了 Ideogram V4 Fast(20 步 FP4,5 秒推理)和 Ideogram V4 Instant(8 步 BF16,2 秒推理),支持无 CFG 的速度蒸馏变体。通过 Hippotes 提供适用于 ComfyUI 的 int8-convrot 格式。

Fal 发布了 Ideogram V4 文生图模型的两个速度蒸馏变体 —— Ideogram V4 FastIdeogram V4 Instant —— 在保持视觉质量的同时显著提升了推理速度。

这两个变体现在已作为开源权重在 Hugging Face 上提供,社区也推出了适用于 ComfyUI 的 int8-convrot 版本。

新功能

两个新变体解决了不同的速度-质量权衡:

变体步数精度推理时间(NVFP4)核心技术
基础版(NVFP4)20+ CFGNVFP4~11 秒原始
Fast20FP4/NVFP4~5 秒CFG 蒸馏 + QAD
Instant8BF16~2 秒无 CFG,8 步蒸馏

两个模型均源自 ideogram-ai/ideogram-4-fp8,采用了量化感知蒸馏(QAD)和 CFG 蒸馏技术。

  • Ideogram V4 Fast (hf.co/fal/ideogram-v4-fast):面向 FP4 的 20 步模型,将引导预测折叠到单个条件分支中,无需无条件评分。该变体结合了速度蒸馏与 NVFP4 量化。
  • Ideogram V4 Instant (hf.co/fal/ideogram-v4-instant):8 步模型,无需 CFG(无分类器引导)即可运行,进一步减少计算量。这些是 QAD 阶段之前的 BF16 权重,兼容性最佳。

ComfyUI 支持

社区成员 Hippotes 已将两个变体打包为 ComfyUI 版本,存放于 Hippotes/Ideogram4-Fal-ComfyUI,包含 int8-convrot 版本:

  • Fast 和 Instant 的 BF16 模型
  • int8-convrot 量化版本,在 NVIDIA GPU(20/30/40/50 系列)上性能更优

这些变体采用无 CFG 架构,ComfyUI 工作流不再需要 Dual Model CFG GuiderCFG Override 节点,也无需加载无条件扩散模型,从而简化了工作流设置。

速度基准

社区在 RTX 6000 PRO(Ada)GPU 上分享的基准测试结果:

  • 基础版 NVFP4:每张生成 11 秒
  • Fast NVFP4:每张生成 5 秒(2.2 倍加速)
  • Instant NVFP4:每张生成 2 秒(5.5 倍加速)

技术背景

在一篇配套博客文章中,Fal 详细介绍了其实现亚秒级 Ideogram V4 推理的方法。通过结合量化感知蒸馏、CFG 蒸馏和 FP4 目标,Fal 报告称,在其基础设施上从原始的 2.75 秒加速至 0.44 秒(6 倍加速),且无明显质量损失。

获取方式

Ideogram V4 by Fal
Ideogram V4 Fast 与 Instant: Fal 为 ComfyUI 推出的速度蒸馏变体 | ComfyUI Wiki