SAM 3D Body:全身 3D 人体网格追踪现已原生集成 ComfyUI

ComfyUI Wikinews

Meta 的 SAM 3D Body 全身 3D 人体网格恢复模型现已内置 ComfyUI 核心:支持视频姿态追踪、时间平滑、面部表情驱动,以及通过全新 SAM3DBody 节点导出 GLB/BVH 动画。

SAM 3D BodyHugging Face | GitHub | Meta 博客 | arXiv)是 Meta 推出的可提示全身 3D 人体网格恢复模型,现已直接内置到 ComfyUI 核心:Kijai 的集成 PR(Comfy-Org/ComfyUI #14370)已于 2026 年 8 月 23 日合并,无需任何自定义节点包。

概述

SAM 3D Body(3DB)由 Meta Superintelligence Labs 开发,可从单张图像重建全身 3D 人体网格(身体、脚和手),在真实场景下具有很强的泛化能力。它采用 Momentum Human Rig (MHR) 参数化表示,将骨骼结构与表面形状解耦,并支持 2D 关键点和蒙版等辅助提示进行引导式推理,与 SAM 系列类似。

SAM 3D Body 模型架构

基于 Momentum Human Rig 的 SAM 3D Body 编码器-解码器架构(来源:Meta)

原生 ComfyUI 支持

ComfyUI 集成提供了零依赖的 SAM 3D Body 实现,包含全新的 SAM3DBody_LoaderSAM3DBody_PredictSAM3DBody_RenderSAM3DBody_SmoothSAM3DBody_FaceExpression 节点,以及面向视频的额外功能:

  • 时间平滑:实现跨帧稳定的视频姿态检测
  • 面部表情驱动:通过 MediaPipe blendshapes 实现
  • 姿态渲染为网格OpenPose / SCAIL-pose 格式,仅使用 PyTorch
  • 3D 动画导出(GLB):支持人体网格或 OpenPose/SCAIL-pose 自定义网格
  • BVH 动画导出:已通过 Blender 导入测试
  • MoGe 支持:用于相机视场角检测(LoadMoGeModel / MoGeGeometryToFOV
  • SAM 3.1 视频追踪:支持多人检测(SAM3_VideoTrack
ComfyUI 中的 SAM 3D Body 工作流

ComfyUI 中的 SAM 3D Body 测试工作流(来源:Comfy-Org/ComfyUI PR #14370)

由于这些节点可以将姿态渲染为 SCAIL-pose 格式,SAM 3D Body 还可以与 SCAIL-2 角色动画工作流搭配使用——SCAIL-2 已经支持将 SAM3D-Body 网格渲染作为零样本控制输入。

工作流

集成 PR 中的官方测试工作流涵盖了检测、姿态预测、平滑、面部表情驱动、基于 MoGe 的视场角估算和 3D 预览:

模型下载

Comfy-Org 重新打包的权重提供了 bf16INT8 ConvRot 两种精度的开箱即用检查点。将它们放入 ComfyUI/models/detection/ 目录:

sam_3d_body_dinov3_bf16.safetensors
sam_3d_body_dinov3_int8_convrot.safetensors

链接

评论

使用 GitHub 登录后即可参与讨论。

评论加载中…
SAM 3D Body:全身 3D 人体网格追踪现已原生集成 ComfyUI | ComfyUI Wiki