설명
실험적 노드로, WanVideo self-attention 메커니즘을 패치하여 커스텀 sageattention 구현을 사용함으로써 추론 중 최대 VRAM 사용량을 줄입니다. 이 노드는 모델의 어텐션 모드를 재정의합니다.
최신 버전의 sageattention이 필요합니다: 이 노드를 사용하기 전에 설치, 호환성, 최신 상태를 확인하세요.
입력
| 이름 | 타입 | 설명 |
|---|---|---|
model | MODEL | 메모리 효율적 sageattention 패치가 적용되는 WanVideo 모델입니다. |
출력
| 타입 | 설명 |
|---|---|
MODEL | self-attention 메커니즘이 sageattention을 사용하도록 패치된 동일한 모델 인스턴스입니다. |
사용 참고 사항
- 이 노드는 실험적입니다. 이후 릴리스에서 동작이 변경될 수 있습니다.
- 이는 WanVideo의 self-attention 레이어에만 영향을 미칩니다. cross-attention이나 다른 구성 요소는 변경되지 않습니다.
- 패치는 모델 래퍼로 적용됩니다. 출력
MODEL은 후속 샘플링 노드에서 직접 사용할 수 있습니다. sageattention이 미설치되거나 오래된 경우, 런타임에 오류가 발생합니다.- 이 패치를 실행하면 출력 품질이나 동작이 변경될 수 있습니다. 특정 워크플로에서 신중히 테스트하세요.
댓글
GitHub로 로그인하고 토론에 참여하세요.