TorchCompileModelWanVideoV2

TorchCompileModelWanVideoV2 노드는 모델 추론 성능을 최적화하기 위한 도구입니다. PyTorch의 컴파일 기능을 사용하여 모델을 더 효율적인 실행 형식으로 변환하며, 이미지나 비디오 생성 시 계산 속도를 향상시키는 것을 목표로 합니다. 이 노드는 KJNodes/torchcompile 카테고리의 실험적 노드입니다.

노드 기능

이 노드는 기술적 측면에서 PyTorch의 torch.compile 메커니즘을 활용하며, 다양한 백엔드 컴파일러와 최적화 모드를 지원합니다. 사용자가 특정 모델 구성 요소(예: Transformer 블록만)를 선택하여 컴파일할 수 있도록 하여 컴파일 시간을 줄이고 성공률을 높입니다. 노드는 PyTorch Dynamo의 설정(예: 캐시 크기 제한 및 파라미터 형태 처리 방식)을 조정하여 다양한 하드웨어 및 모델 구조에 적응합니다.

노드 파라미터 설명 - TorchCompileModelWanVideoV2

입력

파라미터 이름	데이터 타입	필수	기본값	범위/옵션	설명
`model`	MODEL	예	-	-	최적화할 원본 모델 입력을 받습니다. 타입은 MODEL입니다. 이는 노드가 컴파일 처리를 수행하는 대상입니다.

파라미터

파라미터 이름	데이터 타입	필수	기본값	범위/옵션	설명
`backend`	콤보	예	inductor	"inductor", "cudagraphs"	PyTorch 컴파일에 사용할 백엔드 엔진을 선택합니다. "inductor" 또는 "cudagraphs" 중 선택 가능하며, 각각 다른 저수준 최적화 전략에 대응합니다.
`mode`	콤보	예	default	"default", "max-autotune", "max-autotune-no-cudagraphs", "reduce-overhead"	컴파일 속도, 메모리 사용량 및 런타임 성능 간의 균형을 맞추기 위한 모드입니다.
`fullgraph`	논리값	예	False	-	전체 그래프 모드 활성화
`dynamic`	논리값	예	False	-	동적 모드 활성화
`compile_transformer_blocks_only`	논리값	예	True	-	Transformer 블록만 컴파일하여 컴파일 속도를 높이고 오류 발생 가능성을 줄입니다.
`dynamo_cache_size_limit`	INT	예	64	0 - 1024 (단계: 1)	torch._dynamo.config.cache_size_limit
`force_parameter_static_shapes`	논리값	아니오	True	-	torch._dynamo.config.force_parameter_static_shapes

출력

파라미터 이름	데이터 타입	설명
MODEL	MODEL	PyTorch 컴파일 최적화를 거친 모델을 출력하며, 이후 생성 단계에 직접 사용할 수 있습니다.

사용 시나리오

비디오 생성 또는 고해상도 이미지 생성 워크플로에서 모델 추론이 성능 병목 현상이라고 판단될 때, 이 노드를 모델 로딩 후, 샘플러 이전에 삽입할 수 있습니다. 모델을 컴파일함으로써 후속 확산 샘플링 단계를 가속화하여 전체 생성 시간을 단축할 수 있으며, 특히 배치 생성이나 실시간 미리보기가 필요한 시나리오에 적합합니다.

주의사항

이 노드는 "지원 중단됨"으로 표시되어 있으며, 개발자는 더 고급 TorchCompileModelAdvanced 노드 사용을 권장합니다. 이는 실험적 기능으로, PyTorch 버전이나 하드웨어 환경에 따라 동작이 달라질 수 있으므로 사용 전 충분한 테스트가 필요합니다.