Wan ChunkFeedForward(WanChunkFeedForward)
その核心原理は、モデル内部の大規模でメモリを消費する計算プロセスを複数の小さなチャンクに分割し、順次処理することです
Wan Chunk Feed Forward
Wan ChunkFeedForwardノードは、モデル内部の大規模でメモリを消費する計算プロセスを複数の小さなチャンクに分割し、順次処理します。
Wan ChunkFeedForwardノードは、モデルのフィードフォワード活性化をチャンク処理することで、ピーク時のVRAM使用量を削減します。特に高解像度画像や複雑なモデルの処理に適しています。
ノード機能
その基本原理は、モデル内部の大規模でメモリを消費する計算プロセスを複数の小さなチャンクに分割し、順次処理することです。モデルの内部次元がユーザーが設定した閾値を超えると、Wan ChunkFeedForwardは自動的にこのチャンク分割戦略を適用し、単一の計算量が大きすぎることによるVRAM不足の問題を回避します。これにより、大規模モデルや高負荷タスクを限られたVRAM環境下で実行することが可能になります。
使用シナリオ
高解像度モデルを使用して画像を生成する際に頻繁に「VRAM不足(Out of Memory)」エラーが発生する場合、このノードの導入を試みることができます。複数の大規模モデルを直列に接続する複雑なワークフローを構築する際に、Wan ChunkFeedForwardを使用することでプロセスを安定させ、途中でのクラッシュを防ぐことができます。VRAM容量が小さいグラフィックスカード上で高度な大規模モデルを実行する必要があるユーザーにとって、このノードは実行可能な最適化の手段を提供します。
注意事項
このノードは「実験的(EXPERIMENTAL)」とマークされていることに注意してください。その出力結果は予期せぬ変更が発生する可能性があり、重要なタスクや本番環境では注意して使用することを推奨します。通常、小さなチャンク数(例:2または3)から試し、タスクの要件とVRAMの状況に応じてdim_thresholdパラメータを調整し、VRAM節約と計算効率のバランスを取ることを推奨します。
Wan ChunkFeedForward ノードソースコードリンク
Wan ChunkFeedForward ノードは ComfyUI-KJNodes ノードパッケージに含まれています。
コメント
GitHubでサインインしてディスカッションに参加しましょう。