KJNodes/wangenerated
WanVideo Mem Eff Sage Attention Patch(WanVideoMemoryEfficientSageAttentionPatch)
実験的!WanVideoの自己アテンションにカスタムsageattentionを適用し、ピークVRAM使用量を削減します。アテンションモードを上書きします。最新のsageattentionバージョンが必要です。
Wan Video Memory Efficient Sage Attention Patch
model
model
KJNodes
説明
実験的なノードで、WanVideoの自己アテンション機構をカスタムのsageattention実装にパッチし、推論中のピークVRAM使用量を削減します。このノードはモデルのアテンションモードを上書きします。
最新のsageattentionバージョンが必要です – このノードを使用する前に、インストール済みで互換性があり、最新であることを確認してください。
入力
| 名前 | タイプ | 説明 |
|---|---|---|
model | MODEL | メモリ効率の高いsageattentionパッチが適用されるWanVideoモデル。 |
出力
| タイプ | 説明 |
|---|---|
MODEL | 自己アテンション機構がsageattentionを使用するようにパッチされた同じモデルインスタンス。 |
使用上の注意
- このノードは実験的です – 将来のリリースで動作が変更される可能性があります。
- WanVideoの自己アテンションレイヤーにのみ影響します。クロスアテンションや他のコンポーネントは変更されません。
- パッチはモデルラッパーとして適用されます。出力された
MODELは、その後のサンプリングノードで直接使用できます。 sageattentionが未インストールまたは古い場合、実行時にエラーが発生します。- このパッチを実行すると、出力品質や動作が変わる可能性があります – 特定のワークフローで慎重にテストしてください。
インストール(SageAttention)
このオプションを使用するには、ComfyUI の Python 環境に SageAttention ライブラリのインストールが必要です:
- 公式リポジトリ(Linux): thu-ml/SageAttention -
pip install sageattention(要件:python>=3.9、torch>=2.3.0、triton>=3.0.0、CUDA>=12.0。バージョン要件は README 参照) - Windows: woct0rdho/SageAttention - Windows 用プリビルド wheel を提供。まず triton-windows をインストールし、releases ページ から PyTorch バージョンに合う wheel を選択(README 参照)
ComfyUI の組み込みグローバル高速化(ノード不要)には、起動時に --use-sage-attention を追加します。一部のモデル(Wan、Qwen-Image など)で量子化オーバーフローにより黒画像やノイズが発生する場合は、sageattn_qk_int8_pv_fp16_cuda(最もオーバーフローしにくい)を使用するか、pv_accum_dtype を調整してください。
コメント
GitHubでサインインしてディスカッションに参加しましょう。