KJNodes/wangenerated

WanVideo Mem Eff Sage Attention Patch(WanVideoMemoryEfficientSageAttentionPatch)

実験的!WanVideoの自己アテンションにカスタムsageattentionを適用し、ピークVRAM使用量を削減します。アテンションモードを上書きします。最新のsageattentionバージョンが必要です。

Wan Video Memory Efficient Sage Attention Patch

model
model
KJNodes

説明

実験的なノードで、WanVideoの自己アテンション機構をカスタムのsageattention実装にパッチし、推論中のピークVRAM使用量を削減します。このノードはモデルのアテンションモードを上書きします。

最新のsageattentionバージョンが必要です – このノードを使用する前に、インストール済みで互換性があり、最新であることを確認してください。


入力

名前タイプ説明
modelMODELメモリ効率の高いsageattentionパッチが適用されるWanVideoモデル。

出力

タイプ説明
MODEL自己アテンション機構がsageattentionを使用するようにパッチされた同じモデルインスタンス。

使用上の注意

  • このノードは実験的です – 将来のリリースで動作が変更される可能性があります。
  • WanVideoの自己アテンションレイヤーにのみ影響します。クロスアテンションや他のコンポーネントは変更されません。
  • パッチはモデルラッパーとして適用されます。出力されたMODELは、その後のサンプリングノードで直接使用できます。
  • sageattentionが未インストールまたは古い場合、実行時にエラーが発生します。
  • このパッチを実行すると、出力品質や動作が変わる可能性があります – 特定のワークフローで慎重にテストしてください。

インストール(SageAttention)

このオプションを使用するには、ComfyUI の Python 環境に SageAttention ライブラリのインストールが必要です:

ComfyUI の組み込みグローバル高速化(ノード不要)には、起動時に --use-sage-attention を追加します。一部のモデル(Wan、Qwen-Image など)で量子化オーバーフローにより黒画像やノイズが発生する場合は、sageattn_qk_int8_pv_fp16_cuda(最もオーバーフローしにくい)を使用するか、pv_accum_dtype を調整してください。

コメント

GitHubでサインインしてディスカッションに参加しましょう。

コメントを読み込み中…