KJNodes/memorygenerated

Model Memory Usage Factor Override(ModelMemoryUsageFactorOverride)

このノードは、入力モデルをクローンし、それにラッパー(Wrapper)を追加することで機能を実現します。

Model Memory Usage Factor Override

model
MODEL
memory_usage_factor
1.000
KJNodes

Model Memory Usage Factor Override ノードは、入力モデルをクローンし、ラッパー(Wrapper)を追加することで機能を実現します。

Model Memory Usage Factor Override ノードは、サンプリングプロセス中にモデルのメモリ使用率係数を動的に調整するための実験的なツールです。その中核機能は、モデルが元々持つメモリ使用戦略を上書きし、ユーザーがハードウェア条件やパフォーマンス要件に基づいて微調整を行い、VRAM使用量を最適化できるようにすることです。

ノード機能

このノードは、入力モデルをクローンし、それにラッパー(Wrapper)を追加することで機能します。このラッパーは、サンプリング準備段階(PREPARE_SAMPLING)で介入し、ユーザーが指定した memory_usage_factor の値をモデルに適用して、その内部のデフォルトのメモリ使用率係数を上書きします。その内部実装には、計算時のテンソルのチャンキング戦略を制御してVRAMのピーク使用量に影響を与えるため、モデルの順伝播プロセス(例: wan_ffn_chunked_forward メソッド)への潜在的な調整が含まれます。

ノードパラメータ説明 - Model Memory Usage Factor Override

入力接続 (Inputs)

パラメータ名データ型必須デフォルト値値の範囲/オプション説明
modelMODELはい--**: メモリ使用率係数を調整する必要があるベースモデル。このパラメータは標準の MODEL タイプのデータフローを受け取ります。

コントロールパラメータ (Parameters)

パラメータ名データ型必須デフォルト値値の範囲/オプション説明
memory_usage_factorFLOATはい1.00.0 - 100.0 (ステップ: 0.001)**: モデルの元のメモリ使用率係数を上書きするために使用する乗数。値の範囲は 0.0 から 100.0 までで、調整ステップは 0.001 です。デフォルト値 1.0 は元のままを意味します。

出力 (Output)

パラメータ名データ型説明
MODELMODEL**: 入力された係数に基づいてメモリ使用動作が調整された、変更を加えた新しいモデルインスタンスを出力します。

使用シナリオ

高解像度画像や複雑なモデルを処理していて、メモリ不足(Out of Memory)エラーが発生した場合、このノードをチェックポイント読み込み(Load Checkpoint)とKサンプラー(KSampler)の間に挿入できます。memory_usage_factor の値を適切に下げる(例えば 0.8 に設定する)ことで、1回の計算に必要なVRAMを削減しようと試み、限られたGPUメモリ内で生成タスクを完了できる可能性があります。

注意事項

このノードは実験的(EXPERIMENTAL)とマークされています。その動作と効果は、異なるモデルアーキテクチャや ComfyUI のバージョンによって異なる場合があります。メモリ使用率係数を調整すると、生成速度に影響を与えたり、極端な値では画像品質の低下や計算エラーを引き起こす可能性さえあります。調整後は効果を検証することをお勧めします。

Model Memory Usage Factor Override ノードソースコードリンク

Model Memory Usage Factor Override ノードは ComfyUI-KJNodes ノードパッケージに含まれています。

コメント

GitHubでサインインしてディスカッションに参加しましょう。

コメントを読み込み中…