TorchCompileModelAdvanced

TorchCompileModelAdvanced ノードは、技術的な実装において、ユーザーが異なるコンパイルバックエンド（例：inductor）や最適化モード（例：max-autotune）を選択できるようにします。

TorchCompileModelAdvancedは、拡散モデルの推論性能を最適化するためのComfyUIノードです。PyTorchのtorch.compile機能を利用して、モデルの重要な部分をより効率的な形式にコンパイルし、画像生成速度を向上させます。このノードは、基本的なコンパイルノードよりも細かい制御オプションを提供します。

ノード機能

このノードは、技術的な実装において、ユーザーが異なるコンパイルバックエンド（例：inductor）や最適化モード（例：max-autotune）を選択できるようにします。torch._dynamo.config.cache_size_limitを設定してコンパイルキャッシュサイズを制御し、コンパイル速度と最適化効果のバランスを取るために、モデルのTransformerブロックのみを選択的にコンパイルすることができます。

ノードパラメータ説明 - TorchCompileModelAdvanced

入力接続 (Inputs)

パラメータ名	データ型	必須	デフォルト値	範囲/オプション	説明
`model`	MODEL	はい	-	-	最適化対象の拡散モデルを受け取り、コンパイル処理の入力オブジェクトとします。

コントロールパラメータ (Parameters)

パラメータ名	データ型	必須	デフォルト値	範囲/オプション	説明
`backend`	COMBO	はい	inductor	"inductor", "cudagraphs"	PyTorchコンパイルで使用するバックエンドエンジンを選択します。選択可能な値は`inductor`または`cudagraphs`です。
`mode`	COMBO	はい	default	"default", "max-autotune", "max-autotune-no-cudagraphs", "reduce-overhead"	最適化モード。
`dynamic`	COMBO	はい	false	"auto", "true", "false"	動的形状トレースを有効にします（`true`、`false`、または`auto`）。
`fullgraph`	BOOLEAN	はい	False	-	フルグラフモードを有効化
`compile_transformer_blocks_only`	BOOLEAN	はい	True	-	Transformerブロックのみをコンパイル。コンパイルが高速でエラーが発生しにくい。
`dynamo_cache_size_limit`	INT	はい	64	0 - 1024 (ステップ: 1)	torch._dynamo.config.cache_size_limit
`debug_compile_keys`	BOOLEAN	はい	False	-	torch.compileで使用されるコンパイルキーを出力
`disable_dynamic_vram`	BOOLEAN	いいえ	False	-	動的VRAM管理を無効にして、メモリの断片化を減らします。

出力 (Output)

パラメータ名	データ型	説明
MODEL	MODEL	コンパイル最適化されたモデルを出力し、後続の画像生成ステップで使用します。

使用シナリオ

具体的なアプリケーションでは、ユーザーが生成速度を追求するワークフローを構築する際に、このノードを読み込まれたモデルの後に接続することができます。コンパイルモードや動的形状追跡などのパラメータを調整することで、ユーザーは異なるハードウェア（例：NVIDIA GPU）上でモデル自体を変更することなく、最適な推論性能を得るための試行が可能です。

注意事項

このノードは実験的機能としてマークされており、その動作はPyTorchのバージョン更新に伴って変更される可能性があります。不適切なパラメータの組み合わせは、コンパイルの失敗や実行時エラーの原因となる可能性があるため、重要なワークフローで使用する前に十分なテストを行うことを推奨します。