KJNodes/experimentalgenerated

Patch Sage Attention KJ(PathchSageAttentionKJ)

이 노드는 입력 모델을 복제하고 해당 모델 옵션에 최적화된 어텐션 오버라이드 함수를 설정하여 기능을 구현합니다.

Pathch Sage Attention KJ

model
MODEL
sage_attention
0
allow_compile
KJNodes

Patch Sage Attention KJ 노드는 입력 모델을 복제하고 해당 모델 옵션에 최적화된 어텐션 오버라이드 함수를 설정하여 기능을 구현합니다.

Patch Sage Attention KJ 노드는 확산 모델 내의 어텐션 계산 메커니즘을 동적으로 수정하기 위한 실험적 도구입니다. 핵심 기능은 이미지 생성 시 모델의 표준 어텐션 모듈을 전역적으로 Sage Attention 모드로 교체하여 다양한 생성 효과나 잠재적인 성능 최적화를 탐구할 수 있도록 하는 것입니다.

노드 기능

이 노드는 입력 모델을 복제하고 해당 모델 옵션에 최적화된 어텐션 오버라이드 함수를 설정하여 기능을 구현합니다. ComfyUI의 표준 모델 패치 시스템에 의존하지 않고, 모델의 transformer_options를 직접 조작합니다. 노드는 Sage Attention 라이브러리에서 특정 어텐션 모드를 선택하도록 지원하며, PyTorch의 torch.compile 기능을 활성화하여 계산 가속을 시도할 수 있습니다(단, 이 기능은 Sage Attention 2.2.0 이상 버전이 필요합니다).

노드 파라미터 설명 - Patch Sage Attention KJ

연결 입력 (Inputs)

파라미터 이름데이터 타입필수기본값범위/옵션설명
modelMODEL--어텐션 메커니즘 교체의 기초가 될 수정 대상 확산 모델을 입력받습니다.

컨트롤 파라미터 (Parameters)

파라미터 이름데이터 타입필수기본값범위/옵션설명
sage_attentionCOMBOFalse-Comfy 어텐션을 전역적으로 패치하여 sageattn을 사용합니다. 패치 적용 후 일반 상태로 되돌리려면 이 노드를 비활성화 옵션으로 다시 실행해야 합니다.
allow_compileBOOLEAN아니요False-Sage 어텐션 함수에 torch.compile 사용을 허용합니다. 최신 sageattn 2.2.0 이상 버전이 필요합니다.

출력 (Output)

파라미터 이름데이터 타입설명
MODELMODEL지정된 Sage Attention 모드 패치가 적용된 모델 복사본을 출력합니다.

사용 시나리오

이미지 생성 워크플로에서, 모델 로드 노드 이후, 샘플러 노드 이전에 이 노드를 연결할 수 있습니다. Sage Attention이 가져오는 다른 스타일 효과나 잠재적인 속도 향상을 시도해보고 싶을 때 이 노드를 활성화하고 해당 모드를 선택하세요. 표준 생성 효과로 복원하려면 이 노드를 다시 실행하고 모드를 "disabled"로 설정해야 합니다.

주의사항

이것은 실험적 노드이며, 동작이 불안정하거나 의존 라이브러리 업데이트에 따라 변경될 수 있습니다. 패치가 적용되면, 노드를 다시 실행하여 비활성화하지 않는 한 원래의 어텐션 상태로 복원할 수 없습니다.

Patch Sage Attention KJ 노드 소스 코드 링크

Patch Sage Attention KJ 노드는 ComfyUI-KJNodes 노드 패키지에서 제공됩니다.

댓글

GitHub로 로그인하고 토론에 참여하세요.

댓글을 불러오는 중…