Model Memory Use Report Patch(ModelMemoryUseReportPatch)

Model Memory Use Report Patch 노드는 기술적으로 입력된 모델을 복제하고, 복제된 모델에 두 개의 콜백 함수를 추가하는 노드입니다.

Model Memory Use Report Patch는 샘플링 과정에서 모델의 GPU 메모리 사용량을 모니터링하고 보고하는 실험적 노드입니다. 모델에 콜백 함수를 추가하여 메모리 소비의 피크 데이터를 자동으로 기록하고 출력함으로써, 사용자가 모델 실행 시 리소스 점유율을 파악하는 데 도움을 줍니다.

노드 기능

이 노드의 기술적 구현은 입력된 모델을 복제하고, 복제된 모델에 두 개의 콜백 함수를 추가하는 것입니다. 하나의 함수는 샘플링 전에 CUDA 메모리 통계 카운터를 재설정하고, 다른 함수는 샘플링 종료 후 피크 할당 메모리와 피크 예약 메모리를 계산하여 기록합니다. 이 데이터는 GB 단위로 시스템의 로그 기능을 통해 출력됩니다.

노드 파라미터 설명 - Model Memory Use Report Patch

연결 입력 (Inputs)

Output 출력

사용 시나리오

복잡한 워크플로를 디버깅하거나 최적화할 때, 이 노드를 모델 로드 노드 이후, 샘플러 노드 이전에 삽입할 수 있습니다. 예를 들어, 생성 과정이 느리거나 메모리 부족 오류가 발생할 때, 이 노드를 사용하면 어떤 모델이나 샘플링 작업 단계가 가장 많은 GPU 메모리 리소스를 소비하는지 빠르게 파악할 수 있습니다.

주의사항

이 노드는 PyTorch의 CUDA 메모리 관리 인터페이스에 의존하므로, CUDA가 활성화된 GPU 환경에서만 유효합니다. 수정된 모델 복사본을 출력하며, 원본 모델에는 영향을 주지 않습니다.

Model Memory Use Report Patch 노드 소스 코드 링크

Model Memory Use Report Patch 노드는 ComfyUI-KJNodes 노드 패키지에서 제공됩니다.