KJNodes/torchcompilegenerated

TorchCompileControlNet

このノードは内部でtorchを使用します。

Torch Compile Control Net

controlnet
CONTROL_NET
backend
COMBO
fullgraph
mode
default
KJNodes

TorchCompileControlNetノードは、内部でtorch.compileを使用します。

TorchCompileControlNetは、ControlNetモデルの推論性能を最適化するために設計されたユーティリティノードです。PyTorchのJust-In-Timeコンパイル技術を活用して、ControlNetモデルをより効率的な実行形式に変換し、画像生成ワークフローの処理速度向上を目指します。

ノード機能

このノードは内部でtorch.compile関数を使用して、入力されたControlNetモデルをコンパイルします。ユーザーは異なるコンパイルバックエンド(inductorcudagraphsなど)や最適化モード(max-autotuneなど)を選択でき、より積極的な最適化のためのフルグラフモードの有効化もサポートしています。コンパイル処理は一度だけ行われ、ノード内部でコンパイル状態が記録されるため、重複した操作を回避します。

ノードパラメータ説明 - TorchCompileControlNet

接続入力 (Inputs)

パラメータ名データ型必須デフォルト値範囲/オプション説明
controlnetCONTROL_NETはい--:コンパイル・最適化対象のControlNetモデルを入力します。

コントロールパラメータ (Parameters)

パラメータ名データ型必須デフォルト値範囲/オプション説明
backendCOMBOはいinductor"inductor", "cudagraphs":PyTorchコンパイルで使用するバックエンドエンジンを選択します。選択可能な値はinductorまたはcudagraphsです。
modeCOMBOはいdefault"default", "max-autotune", "max-autotune-no-cud...:コンパイル最適化モードを選択します。選択可能な値はdefaultmax-autotunemax-autotune-no-cudagraphs、またはreduce-overheadです。
fullgraphBOOLEANはいFalse-フルグラフモードを有効にします。

出力 (Outputs)

パラメータ名データ型説明
CONTROL_NETCONTROL_NET:コンパイル・最適化されたControlNetモデルを出力します。

使用シナリオ

迅速な反復処理や画像のバッチ生成が必要なワークフローにおいて、このノードをControlNetローダーの後、サンプラーの前に接続できます。ControlNetをコンパイルすることで、生成品質を維持しつつ、1回または複数回のサンプリングに要する時間を大幅に短縮できます。これは、生成速度が要求されるリアルタイムアプリケーションや大規模なコンテンツ制作シナリオに特に適しています。

注意事項

このノードは実験的機能としてマークされています。コンパイルの効果や安定性はPyTorchバージョン、ハードウェアドライバ、および特定のモデルによって異なる場合があります。コンパイルが失敗した場合、ノードはランタイムエラーをスローします。環境の互換性を確認するか、異なるコンパイルパラメータの組み合わせを試す必要があります。

TorchCompileControlNetノードソースコードリンク

TorchCompileControlNetノードはComfyUI-KJNodesノードパッケージに含まれています。

コメント

GitHubでサインインしてディスカッションに参加しましょう。

コメントを読み込み中…