PAN 2:MBZUAI 的 29B 世界模型推出 ComfyUI 节点,可生成 20 秒片段
MBZUAI IFM 开源 PAN 2,这是一个 29B 世界模型,可根据文本或起始帧模拟 20 秒、704x1248 的视频,社区还提供了可加载 fp8 权重的 ComfyUI 节点。
PAN 2 是 MBZUAI 基础模型研究院(Institute of Foundation Models)推出的 29B 世界模型。用文本描述一个动作,可选地给它一张起始帧,它就会把接下来发生的事情模拟成一段最长 20 秒、704x1248 分辨率、24 fps 的片段。该模型于 11 月 10 日发布,权重、推理代码和训练配置均已放入仓库,社区 ComfyUI 节点也在第二天出现。
官方演示片段中的一帧。来源:IFM/PAN2
官方演示的 26 秒内容,重新编码为 1280x720。来源:IFM/PAN2
工作原理
两个模型轮流工作。一个被冻结的 LLM(称为概念推理器)会把你的请求改写为结构化的世界状态描述:带时间范围的事件、绑定到动作主体的操作、相机运动。随后 29B 的 MMDiT 预测视频 latent,补全描述中未展开的细节,最后由原版 Wan 2.2 VAE 解码成视频。
文本编码器是 Qwen3.5-9B,且保持冻结,因此你调整的是提示词,而不是模型。
两个主干网络,以及冻结的编码器和解码器。来源:IFM/PAN2
在 ComfyUI 中使用
目前还没有官方节点,但 ComfyUI-PAN2 是 11 月 11 日发布的可用移植版本:纯 PyTorch 加 SDPA,因此在 Windows 上也能运行。它可直接加载 diffusers 目录结构的权重。
- 扩散模型:来自 IFM/PAN2 的 bf16
transformer/,或社区 33.7 GB 的 fp8 重打包版本 zombothe26/pan2-fp8。 - VAE:ComfyUI 自带的标准 Wan 2.2 VAE。
- 文本编码器:
Qwen/Qwen3.5-9B。 - 节点图:
PAN2 Model Loader和PAN2 Prompt Builder接入PAN2 Text Encode (Qwen3.5),再由PAN2 Sampler连接到核心的 VAE Decode 和 Create Video,帧率为 24 fps。
默认参数与官方一致:50 步、CFG 2.5、shift 9、704x1248、241 帧。节点作者实测,在 RTX 5090 上约 65 秒、在 RTX 4090 上约 129 秒可生成一段连贯的 448x256、13 帧、16 步片段,权重常驻内存,44 个 transformer 块逐个换入 GPU。
在这里,提示词格式并非可选。PAN 2 是在结构化描述上训练的,若只给一句提示词并使用空负面提示,生成的片段会过曝、糊成一团。采样前请使用随节点提供的 PAN2 Prompt Builder 填写场景、事件、主体、光照、视角和风格等字段。
报告测了什么
技术报告评测了六项模拟能力与多步计划,随后是三个公开基准:用于图生视频的 Physics-IQ Verified、PhyGround 和 RBench。此外还进行了盲测人类研究,覆盖 140 条提示词、共 1,400 次成对比较,以 Elo 计分。
能力准确率与多步计划完成度,PAN 2 高亮显示。来源:IFM/PAN2
作者坦率指出了薄弱点:约三分之二的模拟多步计划中,至少有一个步骤模型并未执行。每段片段最多也只能由一张起始帧加文本模拟而来,因此在长序列中外观会逐渐漂移。
报告中的一个模拟推理示例。来源:IFM/PAN2
官方使用路径
在 ComfyUI 之外,PAN 2 提供了 Diffusers 流水线(pan2)、vLLM 方案,以及一个 generate.py,它会一次性转换 checkpoint,并为每块 GPU 运行一个 worker。同一仓库还提供预训练和 SFT 配置,因此训练方案可复现。
评论
使用 GitHub 登录后即可参与讨论。