CheckpointLoaderKJ

CheckpointLoaderKJ ノードは、標準的なロードプロセスに加えて、複数の重み精度（FP8、FP16、BF16など）と計算精度の制御を追加したノードです。

CheckpointLoaderKJは、チェックポイントファイルからStable Diffusionモデルをロードするための実験的なモデルロードノードです。その中核機能は、モデル、CLIPテキストエンコーダー、およびVAEデコーダーをロードし、モデルに対して特定のパフォーマンス最適化と精度調整をサポートすることです。

ノード機能

このノードは、標準的なロードプロセスに加えて、複数の重み精度（FP8、FP16、BF16など）と計算精度の制御を追加しています。その主要な技術メカニズムには、計算効率を向上させるためにPyTorchの線形層をパッチ適用するためのCublasLinearのオプション使用、およびデフォルトのアテンションメカニズムを置き換えるためのSageAttentionの統合が含まれます。これらの最適化は、特定のハードウェア（FP8をサポートするGPUなど）での推論速度の向上またはメモリ使用量の削減を目的としています。

ノードパラメータ説明 - CheckpointLoaderKJ

入力接続 (Inputs)

パラメータ名	データ型	必須	デフォルト値	値の範囲/オプション	説明
`ckpt_name`	FOLDER_PATHS	はい	-	-	ckpt_name（入力パラメータ）：ロードするチェックポイント（モデル）ファイルの名前を指定します。このファイルは、ComfyUIが指定するモデルディレクトリ内にある必要があります。

コントロールパラメータ (Parameters)

パラメータ名	データ型	必須	デフォルト値	値の範囲/オプション	説明
`weight_dtype`	COMBO	はい	default	"default", "fp8_e4m3fn", "fp8_e4m3fn_fast", "fp8_e5m2", "fp16", "bf16", "fp32"	メモリ使用量と計算精度を制御します。
`compute_dtype`	COMBO	はい	default	"default", "fp16", "bf16", "fp32"	fp16、bf16、fp32。順伝播処理中の数値精度に影響します。
`patch_cublaslinear`	BOOLEAN	はい	False	-	cublas_ops引数の有効化または無効化
`sage_attention`	COMBO	はい	False	false, true	comfy attentionをパッチ適用してsageattnを使用します。
`enable_fp16_accumulation`	BOOLEAN	はい	False	-	torch.backends.cuda.matmul.allow_fp16_accumulationを有効にします。必要なPyTorchの最小バージョンは2.7.1です。

出力 (Output)

パラメータ名	データ型	説明
MODEL	MODEL	MODEL（出力パラメータ）：ロードされたStable Diffusionメインモデルを出力します。画像のノイズ除去と生成に使用されます。
CLIP	CLIP	CLIP（出力パラメータ）：CLIPテキストエンコーダーを出力します。テキストプロンプトをモデルが理解できる埋め込みベクトルに変換するために使用されます。
VAE	VAE	VAE（出力パラメータ）：変分自己符号化器を出力します。潜在空間表現をピクセル画像にエンコード/デコードする役割を担います。

使用シナリオ

速度と品質のバランスを取るためにモデル精度を正確に制御する必要があるワークフローで、このノードは非常に有用です。例えば、最適化されたモデルをバッチ画像生成にデプロイする場合、ユーザーはまずこのノードを使用してFP8精度でモデルをロードし、その後Kサンプラーに接続して効率的な推論を行うことができます。また、SageAttentionなどの異なるアテンションメカニズムが生成結果に与える影響をテストするためにも使用できます。

注意事項

これは「実験的」とマークされたノードであり、その機能は不安定であったり、バージョン更新に伴って変更される可能性があることに注意してください。enable_fp16_accumulationなどの機能を有効にするには、特定のバージョンのPyTorch（2.7.1以上）が必要であり、一部の最適化（FP8など）はハードウェアサポートが必要です。