InstantHMR:在 ComfyUI 中用摄像头捕获 3D 人体
ComfyUI-InstantHMR 借助 3200 万参数的模型,从照片、视频或实时摄像头画面中拟合出完整 3D 人体,再驱动已绑定骨骼的角色,或通过 VMC 串流动作数据。
InstantHMR 是来自 Naturalpad Studio 的 2000 万至 3200 万参数模型,于 2026 年 11 月初发布,并附有已发表的论文。它可输出姿态、体型、70 个 2D 与 3D 关键点以及完整的 MHR 网格,在桌面 GPU 上每人约 1 ms,在手机 NPU 上约 5 ms。
该节点包将该模型接入 ComfyUI 自带的 SAM 3D Body 流水线。三个新节点位于原生节点之前:
| 节点 | 作用 |
|---|---|
Load InstantHMR Model | 从 models/detection 中加载五个模型之一 |
Run InstantHMR Prediction | 为每个人体框输出一个 MHR 人体,以 MHR_POSE_DATA 形式输出 |
InstantHMR Live Capture | 从摄像头或手机实时预览 2D/3D 画面,驱动已绑定骨骼的角色,录制片段 |
照片工作流:RT-DETR 为每个人给出人体框,InstantHMR 进行预测,再由原生节点渲染。
照片与视频
Run InstantHMR Prediction 接收来自 Run Real-Time Detection (RT-DETR) 的人体框,或来自 SAM3 Video Track 的跟踪结果。若两者都未连接,则整个画面会被当作一个人。将 fov 设为竖直视场角,或串联 Load MoGe Model 与 Get FoV from MoGe Geometry,从素材中获取该值。
结果会直接送入原生节点:用 Smooth SAM3D Body Pose Data 消除抖动,用 Render 3D Body Pose 生成网格、剪影或 OpenPose 2D/3D,用 Create 3D Animation File 生成动画 GLB 或 BVH。body_mesh 与 bones_only 样式以及 BVH 输出,需要同一工作流中存在 SAM 3D Body 加载器来提供骨骼绑定。
| 模型 | 参数 | 3DPW PA-MPJPE |
|---|---|---|
instanthmr_nano | 20.0 M | 46.6 mm |
instanthmr_tiny | 20.3 M | 44.0 mm |
instanthmr_small | 24.4 M | 41.7 mm |
instanthmr_medium | 32.2 M | 40.0 mm |
instanthmr_medium_commercial | 32.2 M | 50.7 mm |
medium 为默认选项。medium_commercial 以精度换取允许商业使用的训练数据集。
实时捕获
InstantHMR Live Capture 在实时相机画面上运行检测器与模型,让你边看边用。选择 This device 可使用浏览器摄像头;选择 Phone / other device 则会生成二维码,将手机相机通过网络串流进来。smoothing 取 0.5 可让身体更稳定,同时不会让快速动作滞后;由于检测是最慢的一步,将 detect_every 设为 2 或 3 可保持预览流畅。
除了预览之外,它还有两项实用功能。从 input 文件夹中选择一个已绑定骨骼的 .fbx、.glb、.gltf 或 .vrm 文件,3D 视图便会驱动该角色而非原始人体,每个人对应一个副本,并自动处理 Mixamo 与 VRM 的骨骼映射。填写 vmc 后,姿态会串流到 VSeeFace、Warudo、VNyan、配合 VMC Link 的 Blender 或 Unity,这样一次摄像头录制就能变成角色骨骼上的动画。
● Record 会将这段录制保存到 input/instanthmr_live/,随后通过 Get Video Components → Run InstantHMR Prediction 即可把它转化为一次完整流水线运行,包含平滑、渲染与 3D 导出。
如何运行
将仓库克隆到 ComfyUI/custom_nodes/,把模型放入 models/detection,然后重新启动。ComfyUI 需要原生 SAM 3D Body 节点,这些节点从 v0.34.0 起提供。RT-DETR、SAM3 与 MoGe 节点均为内置核心节点,因此运行随附的工作流无需其他自定义节点包。
若要从另一台设备使用浏览器相机,页面必须为 HTTPS:使用 --tls-keyfile 与 --tls-certfile 启动 ComfyUI,然后在手机上打开 https://<lan-ip>:8188 并接受一次证书。
可用性
节点包: jtydhr88/ComfyUI-InstantHMR
权重: jtydhr88/ComfyUI-InstantHMR
模型与训练代码: Naturalpad-studio/InstantHMR
ONNX 发布版: momolesang/InstantHMR
论文: hal-05854387
评论
使用 GitHub 登录后即可参与讨论。