InstantHMR:在 ComfyUI 中用摄像头捕获 3D 人体

ComfyUI Wikinews

ComfyUI-InstantHMR 借助 3200 万参数的模型,从照片、视频或实时摄像头画面中拟合出完整 3D 人体,再驱动已绑定骨骼的角色,或通过 VMC 串流动作数据。

ComfyUI-InstantHMR 新增三个节点,可为照片、视频或实时相机画面中的每个人恢复完整 3D 人体。其输出与 ComfyUI 原生 SAM 3D Body 节点生成的 MHR 人体一致,因此平滑处理、渲染以及 GLB/BVH 导出都能照常使用,无需任何改动。

InstantHMR 是来自 Naturalpad Studio 的 2000 万至 3200 万参数模型,于 2026 年 11 月初发布,并附有已发表的论文。它可输出姿态、体型、70 个 2D 与 3D 关键点以及完整的 MHR 网格,在桌面 GPU 上每人约 1 ms,在手机 NPU 上约 5 ms。

该节点包将该模型接入 ComfyUI 自带的 SAM 3D Body 流水线。三个新节点位于原生节点之前:

节点作用
Load InstantHMR Model从 models/detection 中加载五个模型之一
Run InstantHMR Prediction为每个人体框输出一个 MHR 人体,以 MHR_POSE_DATA 形式输出
InstantHMR Live Capture从摄像头或手机实时预览 2D/3D 画面,驱动已绑定骨骼的角色,录制片段
在图像上运行的 InstantHMR 工作流

照片工作流:RT-DETR 为每个人给出人体框,InstantHMR 进行预测,再由原生节点渲染。

照片与视频

Run InstantHMR Prediction 接收来自 Run Real-Time Detection (RT-DETR) 的人体框,或来自 SAM3 Video Track 的跟踪结果。若两者都未连接,则整个画面会被当作一个人。将 fov 设为竖直视场角,或串联 Load MoGe Model 与 Get FoV from MoGe Geometry,从素材中获取该值。

结果会直接送入原生节点:用 Smooth SAM3D Body Pose Data 消除抖动,用 Render 3D Body Pose 生成网格、剪影或 OpenPose 2D/3D,用 Create 3D Animation File 生成动画 GLB 或 BVH。body_mesh 与 bones_only 样式以及 BVH 输出,需要同一工作流中存在 SAM 3D Body 加载器来提供骨骼绑定。

模型参数3DPW PA-MPJPE
instanthmr_nano20.0 M46.6 mm
instanthmr_tiny20.3 M44.0 mm
instanthmr_small24.4 M41.7 mm
instanthmr_medium32.2 M40.0 mm
instanthmr_medium_commercial32.2 M50.7 mm

medium 为默认选项。medium_commercial 以精度换取允许商业使用的训练数据集。

实时捕获

实时捕获节点:左侧为相机画面,右侧为 3D 人体

InstantHMR Live Capture 在实时相机画面上运行检测器与模型,让你边看边用。选择 This device 可使用浏览器摄像头;选择 Phone / other device 则会生成二维码,将手机相机通过网络串流进来。smoothing 取 0.5 可让身体更稳定,同时不会让快速动作滞后;由于检测是最慢的一步,将 detect_every 设为 2 或 3 可保持预览流畅。

除了预览之外,它还有两项实用功能。从 input 文件夹中选择一个已绑定骨骼的 .fbx、.glb、.gltf 或 .vrm 文件,3D 视图便会驱动该角色而非原始人体,每个人对应一个副本,并自动处理 Mixamo 与 VRM 的骨骼映射。填写 vmc 后,姿态会串流到 VSeeFace、Warudo、VNyan、配合 VMC Link 的 Blender 或 Unity,这样一次摄像头录制就能变成角色骨骼上的动画。

● Record 会将这段录制保存到 input/instanthmr_live/,随后通过 Get Video Components → Run InstantHMR Prediction 即可把它转化为一次完整流水线运行,包含平滑、渲染与 3D 导出。

如何运行

将仓库克隆到 ComfyUI/custom_nodes/,把模型放入 models/detection,然后重新启动。ComfyUI 需要原生 SAM 3D Body 节点,这些节点从 v0.34.0 起提供。RT-DETR、SAM3 与 MoGe 节点均为内置核心节点,因此运行随附的工作流无需其他自定义节点包。

若要从另一台设备使用浏览器相机,页面必须为 HTTPS:使用 --tls-keyfile 与 --tls-certfile 启动 ComfyUI,然后在手机上打开 https://<lan-ip>:8188 并接受一次证书。

可用性

节点包: jtydhr88/ComfyUI-InstantHMR
权重: jtydhr88/ComfyUI-InstantHMR
模型与训练代码: Naturalpad-studio/InstantHMR
ONNX 发布版: momolesang/InstantHMR
论文: hal-05854387

评论

使用 GitHub 登录后即可参与讨论。

评论加载中…
InstantHMR:在 ComfyUI 中用摄像头捕获 3D 人体 | ComfyUI Wiki