TorchCompileControlNet
このノードは内部でtorchを使用します。
Torch Compile Control Net
TorchCompileControlNetノードは、内部でtorch.compileを使用します。
TorchCompileControlNetは、ControlNetモデルの推論性能を最適化するために設計されたユーティリティノードです。PyTorchのJust-In-Timeコンパイル技術を活用して、ControlNetモデルをより効率的な実行形式に変換し、画像生成ワークフローの処理速度向上を目指します。
ノード機能
このノードは内部でtorch.compile関数を使用して、入力されたControlNetモデルをコンパイルします。ユーザーは異なるコンパイルバックエンド(inductorやcudagraphsなど)や最適化モード(max-autotuneなど)を選択でき、より積極的な最適化のためのフルグラフモードの有効化もサポートしています。コンパイル処理は一度だけ行われ、ノード内部でコンパイル状態が記録されるため、重複した操作を回避します。
ノードパラメータ説明 - TorchCompileControlNet
接続入力 (Inputs)
| パラメータ名 | データ型 | 必須 | デフォルト値 | 範囲/オプション | 説明 |
|---|---|---|---|---|---|
controlnet | CONTROL_NET | はい | - | - | :コンパイル・最適化対象のControlNetモデルを入力します。 |
コントロールパラメータ (Parameters)
| パラメータ名 | データ型 | 必須 | デフォルト値 | 範囲/オプション | 説明 |
|---|---|---|---|---|---|
backend | COMBO | はい | inductor | "inductor", "cudagraphs" | :PyTorchコンパイルで使用するバックエンドエンジンを選択します。選択可能な値はinductorまたはcudagraphsです。 |
mode | COMBO | はい | default | "default", "max-autotune", "max-autotune-no-cud... | :コンパイル最適化モードを選択します。選択可能な値はdefault、max-autotune、max-autotune-no-cudagraphs、またはreduce-overheadです。 |
fullgraph | BOOLEAN | はい | False | - | フルグラフモードを有効にします。 |
出力 (Outputs)
| パラメータ名 | データ型 | 説明 |
|---|---|---|
| CONTROL_NET | CONTROL_NET | :コンパイル・最適化されたControlNetモデルを出力します。 |
使用シナリオ
迅速な反復処理や画像のバッチ生成が必要なワークフローにおいて、このノードをControlNetローダーの後、サンプラーの前に接続できます。ControlNetをコンパイルすることで、生成品質を維持しつつ、1回または複数回のサンプリングに要する時間を大幅に短縮できます。これは、生成速度が要求されるリアルタイムアプリケーションや大規模なコンテンツ制作シナリオに特に適しています。
注意事項
このノードは実験的機能としてマークされています。コンパイルの効果や安定性はPyTorchバージョン、ハードウェアドライバ、および特定のモデルによって異なる場合があります。コンパイルが失敗した場合、ノードはランタイムエラーをスローします。環境の互換性を確認するか、異なるコンパイルパラメータの組み合わせを試す必要があります。
TorchCompileControlNetノードソースコードリンク
TorchCompileControlNetノードはComfyUI-KJNodesノードパッケージに含まれています。
コメント
GitHubでサインインしてディスカッションに参加しましょう。