KJNodes/model_loadersgenerated

Diffusion Model Loader KJ(DiffusionModelLoaderKJ)

このノードはモデルをロードする際に、重みデータ型と計算データ型の詳細な制御を提供し、fp8からfp32までの様々な精度フォーマットをサポートします。

Diffusion Model Loader KJ

MODEL
model_name
COMBO
weight_dtype
COMBO
compute_dtype
default
patch_cublaslinear
sage_attention
0
enable_fp16_accumulation
extra_state_dict
STRING
KJNodes

Diffusion Model Loader KJ ノードは、モデル読み込み時に、重みデータ型と計算データ型に対する詳細な制御を提供し、fp8からfp32までの様々な精度フォーマットをサポートします。

Diffusion Model Loader KJは、拡散モデル(Stable Diffusionなど)を読み込み、設定するためのノードです。その中核機能は、指定されたパスからモデルファイルを読み込み、実行時の数値精度や計算動作をユーザーが調整して、パフォーマンスや互換性を最適化できるようにすることです。

ノード機能

このノードは、モデル読み込み時に、重みデータ型と計算データ型に対する詳細な制御を提供し、fp8からfp32までの様々な精度フォーマットをサポートします。主な技術的特徴には、特定のGPUアクセラレーションライブラリを活用するためのオプションのCublasLinearパッチ、SageAttentionメカニズムの統合、追加の状態辞書を通じてモデル機能を統合または強化するサポート(例:ビデオモデルにVACEモジュールを追加)などが含まれます。

ノードパラメータ説明 - Diffusion Model Loader KJ

接続入力 (Inputs)

パラメータ名データ型必須デフォルト値範囲/オプション説明
model_nameCOMBOはい--読み込む拡散モデルファイルを選択します。このパラメータは、ComfyUIが管理するモデルディレクトリ内の利用可能なすべてのモデルを一覧表示します。

コントロールパラメータ (Parameters)

パラメータ名データ型必須デフォルト値範囲/オプション説明
weight_dtypeCOMBOはいdefaultdefault, fp8_e4m3fn, fp8_e4m3fn_fast, fp8_e5m2, fp16, bf16, fp32メモリ使用量と計算精度のバランスを取るために使用します。
compute_dtypeCOMBOはいdefaultdefault, fp16, bf16, fp32計算速度と数値安定性に影響します。
patch_cublaslinearBOOLEANはいFalse-cublas_ops引数の有効化または無効化
sage_attentionCOMBOはいFalsefalse, trueComfyUIのアテンションをパッチしてsageattnを使用します。
enable_fp16_accumulationBOOLEANはいFalse-torch.backends.cuda.matmul.allow_fp16_accumulationを有効にします。PyTorch 2.7.0 ナイトリーが必要です。
extra_state_dictSTRINGいいえ--読み込む追加の状態辞書へのフルパス。これはメインの状態辞書とマージされます。例えば、WanVideoModelにVACEモジュールを追加する場合などに便利です。DiffusionModelSelectorを使用して簡単にパスを取得できます。

出力 (Output)

パラメータ名データ型説明
MODELMODEL読み込まれ設定されたモデルを出力し、後続のノードで使用できるようにします。

使用シナリオ

ベースモデルを読み込み、特定の最適化や拡張機能を適用する必要があるワークフローで、このノードは非常に有用です。例えば、このノードを使用してWanVideoModelを読み込み、extra_state_dictパラメータを通じてVACEモジュールの状態辞書をマージすることで、機能が強化されたビデオ生成モデルを構築できます。

注意事項

このノードは実験的カテゴリに属し、一部の機能(enable_fp16_accumulationなど)は、特定のバージョンのPyTorch(2.7.0 ナイトリーなど)で正常に動作する必要があります。高度なデータ型(fp8など)やパッチ機能を使用する前に、ハードウェアとソフトウェア環境がサポートしていることを確認してください。

Diffusion Model Loader KJ ノードソースコードリンク

Diffusion Model Loader KJ ノードは ComfyUI-KJNodes ノードパッケージから提供されています。

コメント

GitHubでサインインしてディスカッションに参加しましょう。

コメントを読み込み中…