SAM 3D Body:全身3DメッシュトラッキングがComfyUIに標準搭載
MetaのSAM 3D Bodyによる全身3D人体メッシュ復元がComfyUIコアに統合されました。動画ポーズ追跡、時間スムージング、表情ドライブ、GLB/BVH書き出しを新しいSAM3DBodyノードで実現します。
概要
SAM 3D Body(3DB)はMeta Superintelligence Labsが開発したモデルで、1枚の画像から全身の3D人体メッシュ(体・足・手)を復元し、多様な実環境でも高い汎化性能を発揮します。Momentum Human Rig (MHR) パラメトリック表現を採用し、骨格構造と表面形状を分離。2Dキーポイントやマスクなどの補助プロンプトによるガイド付き推論もサポートします(SAMファミリーと同様)。
Momentum Human Rig に基づく SAM 3D Body のエンコーダー・デコーダー構成(出典:Meta)
ComfyUIネイティブ対応
ComfyUI統合では、依存関係なしのSAM 3D Body実装に加え、新しい SAM3DBody_Loader、SAM3DBody_Predict、SAM3DBody_Render、SAM3DBody_Smooth、SAM3DBody_FaceExpression ノードと、動画向けの追加機能が提供されます:
- 時間スムージング:フレーム間で安定した動画ポーズ検出
- 表情ドライブ:MediaPipeブレンドシェイプによる表情制御
- ポーズのメッシュ描画、またはOpenPose / SCAIL-pose形式の出力(PyTorchのみ)
- 3Dアニメーション書き出し(GLB):ボディメッシュまたはOpenPose/SCAIL-poseカスタムメッシュ
- BVHアニメーション書き出し:Blenderでのインポート確認済み
- MoGe対応:カメラFoV検出(
LoadMoGeModel/MoGeGeometryToFOV) - SAM 3.1ビデオトラック:複数人物検出(
SAM3_VideoTrack)
ComfyUI内のSAM 3D Bodyテストワークフロー(出典:Comfy-Org/ComfyUI PR #14370)
ポーズをSCAIL-pose形式で描画できるため、SAM 3D BodyはSCAIL-2キャラクターアニメーションワークフローとも組み合わせられます。SCAIL-2はすでにSAM3D-Bodyメッシュ描画をゼロショット制御入力としてサポートしています。
ワークフロー
統合PRの公式テストワークフローは、検出、ポーズ予測、スムージング、表情ドライブ、MoGeによるFoV推定、3Dプレビューをカバーしています:
モデルのダウンロード
Comfy-Org再パッケージ版の重みは、bf16 と INT8 ConvRot の2つの精度を提供します。ComfyUI/models/detection/ に配置してください:
sam_3d_body_dinov3_bf16.safetensors
sam_3d_body_dinov3_int8_convrot.safetensors
コメント
GitHubでサインインしてディスカッションに参加しましょう。