UltraTex: ComfyUIで3Dテクスチャリングを実現する2Kマルチビュー拡散モデル

ComfyUI Wikinews

吉林大学とVASTによるUltraTexは、背景トークンドロッピングとブロックスパースアテンションにより2048x2048で3Dメッシュにテクスチャを付与します。ComfyUIノードパックも提供されています。

UltraTexは、2048×2048で3Dメッシュにテクスチャを付与するマルチビュー拡散フレームワークで、吉林大学、上海創新研究院、およびHKU、同済大学、復旦大学、VASTの共同研究者によって開発されました。高密度な2Kモデルのディテールを維持しながら、トレーニングコストを最大91倍削減し、コミュニティのノードパックによってComfyUI向けにラップされており、標準のComfyUIローダーで動作します。
UltraTex teaser

テクスチャなしのメッシュと参照画像からUltraTexが生成したテクスチャ済みアセット。

UltraTexの機能

UltraTexにテクスチャなしのメッシュと1枚の参照画像を与えると、6つの2048²テクスチャビュー(前面、左、背面、右、上面、底面)を生成し、それらをメッシュ上のUVテクスチャにベイクします。この論文の要点は、2Kでの密度はほとんど無駄であるという点です。

オブジェクト中心のマルチビューレンダリングには2つの冗長性の源があります。有用なテクスチャ情報を含まない背景ピクセルと、前景トークン間の疎な相互作用です。UltraTexはその両方に対処します。

  • **Background Token Dropping(BTD)**は、DiTバックボーンの前に背景トークンを破棄しますが、元のRoPEインデックスを保持するため、空間座標とマルチビューの幾何学的プライアがプルーニング後も維持されます。
  • **Block-Sparse Attention(BSA)**は、残りの前景シーケンスに対して、密なアテンションではなくtop-kスパースアテンションを適用します。
  • Foreground-Aware VAE Decodingは、ノイズ除去されていない背景潜在を正規の分布内背景に置き換え、デコーダーを軽くファインチューニングすることで、プルーニングによって生じるはずのアーティファクトなしに2K再構成を維持します。
UltraTex pipeline

UltraTexのパイプライン: 背景トークンドロッピング、ブロックスパースアテンション、前景対応デコーダー。

バックボーンはFLUX.1-devとFLUX.2-Klein(4Bおよび9B)であるため、テクスチャジェネレーターは専用のテクスチャリングネットワークではなく、汎用画像モデルのプロンプト条件付けと画像条件付けを継承します。

速度の源泉

G-buffer TexVerseデータセットの一般的なサンプルにおいて、公開されている実装は、同じ2K出力解像度で密なベースラインと比較して20.6倍から91.1倍のトレーニング高速化と22.3倍から74.6倍のエンドツーエンド推論高速化を報告しています。

UltraTex efficiency

密な2Kベースラインに対するトレーニングと推論の高速化(プロジェクトページより)。

UltraTex qualitative results

論文の定性的なテクスチャリング結果。

公開されたもの

ComfyUIでUltraTexを実行する

コミュニティノードパックvisualbruno/ComfyUI-UltraTexは、パイプラインをComfyUIノードとしてラップしています: UltraTex Load LoRA、UltraTex Foreground VAE Decoder、UltraTex Prep (mesh + reference)、UltraTex Sampler、UltraTex Bake Texture。Load LoRAが存在するのは、標準のLoad LoRAノードがこれらのチェックポイント(FLUX.2向けのPEFT lora_A.defaultキー、FLUX.1向けのUNO processor.*_loraキー)を読み取れないためで、Bake Textureは生成されたビューをUVテクスチャに逆投影し、Preview 3Dに直接接続できるGLBを返します。

拡散モデル、VAE、テキストエンコーダーは標準のComfyUIローダーで読み込まれるため、fp8やGGUFの重み、およびComfyUIのメモリオフロードが適用されます。PrepはGPU UV展開(comfy_gpu、50万面で約6秒)またはCPU xatlasパス(同じメッシュで約4.6分)を提供します。

4つのサンプルワークフローがノードパックに同梱されています。

残りの2つは1024pxのPBRとFLUX.1-devです。

入手方法

公式リポジトリにはTritonスパースアテンションカーネルを含むPyTorchのトレーニングと推論のコードが含まれており、重みはModelScopeにあります。ComfyUIでの方法は上記のサードパーティ製ノードパックであり、公式のComfy-Orgリリースではないため、インストールするにはカスタムノードを追加し、UltraTex LoRAと前景デコーダーをModelScopeから取得する必要があります。

コメント

GitHubでサインインしてディスカッションに参加しましょう。

コメントを読み込み中…
UltraTex: ComfyUIで3Dテクスチャリングを実現する2Kマルチビュー拡散モデル | ComfyUI Wiki