PAN 2:MBZUAI 的 29B 世界模型推出 ComfyUI 节点,可生成 20 秒片段

ComfyUI Wikinews

MBZUAI IFM 开源 PAN 2,这是一个 29B 世界模型,可根据文本或起始帧模拟 20 秒、704x1248 的视频,社区还提供了可加载 fp8 权重的 ComfyUI 节点。

PAN 2 是 MBZUAI 基础模型研究院(Institute of Foundation Models)推出的 29B 世界模型。用文本描述一个动作,可选地给它一张起始帧,它就会把接下来发生的事情模拟成一段最长 20 秒、704x1248 分辨率、24 fps 的片段。该模型于 11 月 10 日发布,权重、推理代码和训练配置均已放入仓库,社区 ComfyUI 节点也在第二天出现。

PAN 2 演示片段中的一帧

官方演示片段中的一帧。来源:IFM/PAN2

官方演示的 26 秒内容,重新编码为 1280x720。来源:IFM/PAN2

工作原理

两个模型轮流工作。一个被冻结的 LLM(称为概念推理器)会把你的请求改写为结构化的世界状态描述:带时间范围的事件、绑定到动作主体的操作、相机运动。随后 29B 的 MMDiT 预测视频 latent,补全描述中未展开的细节,最后由原版 Wan 2.2 VAE 解码成视频。

文本编码器是 Qwen3.5-9B,且保持冻结,因此你调整的是提示词,而不是模型。

PAN 2 架构:概念推理器、条件、29B MMDiT、Wan 2.2 VAE

两个主干网络,以及冻结的编码器和解码器。来源:IFM/PAN2

在 ComfyUI 中使用

目前还没有官方节点,但 ComfyUI-PAN2 是 11 月 11 日发布的可用移植版本:纯 PyTorch 加 SDPA,因此在 Windows 上也能运行。它可直接加载 diffusers 目录结构的权重。

  • 扩散模型:来自 IFM/PAN2 的 bf16 transformer/,或社区 33.7 GB 的 fp8 重打包版本 zombothe26/pan2-fp8。
  • VAE:ComfyUI 自带的标准 Wan 2.2 VAE。
  • 文本编码器:Qwen/Qwen3.5-9B。
  • 节点图:PAN2 Model Loader 和 PAN2 Prompt Builder 接入 PAN2 Text Encode (Qwen3.5),再由 PAN2 Sampler 连接到核心的 VAE Decode 和 Create Video,帧率为 24 fps。

默认参数与官方一致:50 步、CFG 2.5、shift 9、704x1248、241 帧。节点作者实测,在 RTX 5090 上约 65 秒、在 RTX 4090 上约 129 秒可生成一段连贯的 448x256、13 帧、16 步片段,权重常驻内存,44 个 transformer 块逐个换入 GPU。

在这里,提示词格式并非可选。PAN 2 是在结构化描述上训练的,若只给一句提示词并使用空负面提示,生成的片段会过曝、糊成一团。采样前请使用随节点提供的 PAN2 Prompt Builder 填写场景、事件、主体、光照、视角和风格等字段。

报告测了什么

技术报告评测了六项模拟能力与多步计划,随后是三个公开基准:用于图生视频的 Physics-IQ Verified、PhyGround 和 RBench。此外还进行了盲测人类研究,覆盖 140 条提示词、共 1,400 次成对比较,以 Elo 计分。

PAN 2 的能力与多步计划结果

能力准确率与多步计划完成度,PAN 2 高亮显示。来源:IFM/PAN2

作者坦率指出了薄弱点:约三分之二的模拟多步计划中,至少有一个步骤模型并未执行。每段片段最多也只能由一张起始帧加文本模拟而来,因此在长序列中外观会逐渐漂移。

一个模拟推理示例

报告中的一个模拟推理示例。来源:IFM/PAN2

官方使用路径

在 ComfyUI 之外,PAN 2 提供了 Diffusers 流水线(pan2)、vLLM 方案,以及一个 generate.py,它会一次性转换 checkpoint,并为每块 GPU 运行一个 worker。同一仓库还提供预训练和 SFT 配置,因此训练方案可复现。

评论

使用 GitHub 登录后即可参与讨论。

评论加载中…
PAN 2:MBZUAI 的 29B 世界模型推出 ComfyUI 节点,可生成 20 秒片段 | ComfyUI Wiki