TorchCompileModelFluxAdvancedV2

TorchCompileModelFluxAdvancedV2 ノードは非推奨です。代わりに TorchCompileModelAdvanced を使用してください。技術的な実装において、このノードは入力モデルをクローンし、その内部の拡散モデル部分に torch.compile を適用します。

TorchCompileModelFluxAdvancedV2 は、モデルの推論を最適化および高速化するためのノードです。PyTorch の torch.compile 機能を使用して、指定された拡散モデルをコンパイルし、画像生成時の実行効率を向上させることを目的としています。このノードは複数のコンパイルオプションを提供し、ユーザーがハードウェアと要件に応じて最適化戦略を調整できるようにします。

ノードの機能

技術的な実装において、このノードは入力モデルをクローンし、その内部の拡散モデル部分に torch.compile を適用します。inductor などの複数のバックエンドや max-autotune などのコンパイルモードをサポートし、モデル内の特定のモジュール（例：シングル/ダブルアテンションブロック）をコンパイルするかどうかを制御できます。さらに、PyTorch Dynamo のキャッシュサイズや形状の強制静的化などの低レベルパラメータを設定し、より詳細なパフォーマンスチューニングを実現できます。

ノードパラメータ説明 - TorchCompileModelFluxAdvancedV2

入力接続 (Inputs)

パラメータ名	データ型	必須	デフォルト値	範囲/オプション	説明
`model`	MODEL	はい	-	-	最適化対象のモデル入力を受け取ります。このパラメータはノードのコア入力であり、通常は上流のモデルロードノードから供給されます。

コントロールパラメータ (Parameters)

パラメータ名	データ型	必須	デフォルト値	範囲/オプション	説明
`backend`	COMBO	はい	inductor	"inductor", "cudagraphs"	PyTorch コンパイルで使用するバックエンドエンジンを選択します。オプションは `inductor`（デフォルト）または `cudagraphs` で、低レベルの最適化実装方式を指定します。
`mode`	COMBO	はい	default	"default", "max-autotune", "max-autotune-no-cudagraphs", "reduce-overhead"	コンパイル時間、メモリ使用量、実行速度の間でトレードオフを行うためのモードを選択します。オプションには `default`、`max-autotune`、`max-autotune-no-cudagraphs`、`reduce-overhead` があります。
`fullgraph`	BOOLEAN	はい	False	-	フルグラフモードを有効にします
`double_blocks`	BOOLEAN	はい	True	-	ダブルブロックをコンパイルします
`single_blocks`	BOOLEAN	はい	True	-	シングルブロックをコンパイルします
`dynamic`	BOOLEAN	はい	False	-	ダイナミックモードを有効にします
`dynamo_cache_size_limit`	INT	いいえ	64	0 - 1024 (ステップ: 1)	torch._dynamo.config.cache_size_limit
`force_parameter_static_shapes`	BOOLEAN	いいえ	True	-	torch._dynamo.config.force_parameter_static_shapes

出力 (Outputs)

パラメータ名	データ型	説明
MODEL	MODEL	`torch.compile` でコンパイルおよび最適化されたモデルを出力します。後続のサンプラーや処理ノードで使用できます。

使用シナリオ

画像生成ワークフローでは、このノードをモデルロードノードの後、サンプラーノードの前に配置できます。例えば、Stable Diffusion モデルをロードした後、このノードでコンパイル最適化を行い、最適化されたモデルをサンプラーに送って画像生成を行うことで、より高速な生成速度が期待できます。

注意事項

このノードは「非推奨」としてマークされており、開発者はその代替ノード TorchCompileModelAdvanced の使用を推奨しています。また、このノードはまだ実験段階であり、最適化効果はモデル、ハードウェア、具体的なパラメータによって大きく異なる可能性があります。