H3 Motion 关键帧指南:用 SAM 3.1 选中主体,让 MiniMax H3 生成动画

ComfyUI Wikinews

H3 Motion 是一个驱动 ComfyUI 的本地应用:用 SAM 3.1 从照片中点击抠出主体,沿关键帧路径拖拽它,MiniMax H3 即可渲染出带声音的镜头。

<strong>H3 Motion</strong> 是一个本地 React 应用,它驱动自托管的 ComfyUI,对静态照片或视频中的某个物体做动画。用 SAM 3.1 从照片中选出主体,沿关键帧路径拖拽它,MiniMax H3 便会渲染出带声音的镜头。在视频中,你可以绘制遮罩、为遮罩做动画,H3 只重绘遮罩内部的内容。作者 PxTicks 为 Comfy 的开源 Higgsfield 竞赛开发了它,此前还发布了时间线编辑器 Vlo,本站在九月报道过。
Move 阶段:每个主体都有自己的路径,菱形关键帧位于共享时间线上

Move 阶段。每个已选择的主体都有自己的彩色路径和关键帧,片段长度会对齐到 H3 的帧网格。

这不是另一个 H3 Motion Context。那个节点包把已完成的片段串联起来,让运动跨越剪切点延续;而 H3 Motion 作用于单个片段,在片段内部移动主体。

照片:选择、抠出、拖出路径

1. 选择。 用名称描述主体,SAM 3.1 会找到它。点击可细化遮罩:添加或移除点,直到只包含你想要的东西。 2. 隔离。 Qwen3-VL 描述已确认的主体,Qwen Image 2.1 将其移除,应用随即显示干净的背景。你可以用新的种子重试,或改写移除指令。 3. 移动。 拖拽主体即可录制路径;也可以拖动时间线,再逐个拖拽放置关键帧。关键帧同时设定大小,因此对象可以放大、缩小,或翻过自身边缘来伪造转身效果。 4. 生成。 应用渲染关键帧画面,并把它们连同 Time-to-Move 交给 MiniMax H3,返回一段带声音的片段。

片段长度从 3.0 秒到 15.1 秒,以 17 帧为步长,这正是 H3 采样的网格;第一帧始终是你的原始照片。路径在背景重试后依然保留,因此隔离失败后无需重新绘制主体。

Select 阶段:SAM 3.1 选出一个主体,再通过点击细化

Select 阶段。提示词找出候选对象,点决定最终遮罩。

视频:为遮罩做动画,而非为画面

在片段的一部分上绘制矩形或椭圆。遮罩可以用同样的路径工具手动做动画,也可以让它跟随某个对象:SAM 3.1 在第一帧完成分割,核心的 SAM3_VideoTrack 节点将其传播到后续帧,应用会拒绝面积或位置发生跳变的帧。描述应当出现的内容,并可选地提供引用图像,该图像可以由描述生成,也可以在遮罩内编辑当前帧得到。H3 的 ref2va 模型在一次采样中重绘遮罩区域,应用随后用羽化边缘把结果合成回去,并保留、引用或替换原始音频。

仓库 web 资产中附带的演示片段(1280×720,4 秒)。

运行方式

该应用只提供源代码:克隆它,执行 npm install、npm run dev,然后打开 http://127.0.0.1:5180。它会连接你已在 8188 端口运行的 ComfyUI,并自行启动 API 代理;它从不启动 ComfyUI,也不下载模型。另开一个终端运行 npm run check-env,以确认每个节点和模型文件都已就位。

你需要 ComfyUI(README 在 v0.41.0-18 上测试过)、ComfyUI-vlo 0.3.0 或更高版本(用于 vloTimeToMove、vloSAM3RefineMask 和 vloMaskToLatentMask 节点)、Node 22.12 或更高版本,以及 uv。两个 H3 工作流都使用 Comfy Kitchen INT8 注意力,因此需要 NVIDIA 或 AMD GPU。README 列出了十一个文件的确切 hf download 命令行:SAM 3.1,Qwen Image 2.1 及其 Qwen3-VL 编码器和 VAE,H3 fl2va 与 ref2va 扩散模型,H3 文本编码器和两个 VAE,以及 Pika Flex LoRA。

限制

  • 原生 Windows 未经测试;WSL 是经过测试的路径。文中描述了托管 Comfy API 的部署方式,但同样未经测试。
  • 照片和视频的宽高比必须介于 1:4 与 4:1 之间,因为任何比 4:1 更宽的内容都无法以 768p 交付。
  • 尚无带标签的发布版本,最后一次提交是在 11 月 3 日。

获取方式

评论

使用 GitHub 登录后即可参与讨论。

评论加载中…
H3 Motion 关键帧指南:用 SAM 3.1 选中主体,让 MiniMax H3 生成动画 | ComfyUI Wiki