Kroma v0.3.1: Krea 2 파인튜닝을 위한 온폴리시 증류
Lodestones가 Krea 2용 Kroma v0.3.1 OPD를 공개했습니다. 베이스 모델의 분포 안에 머무는 온폴리시 증류 터보 체크포인트이며, LoRA 학습도 그대로 이어집니다.
kroma-v0.3.1-turbo-opd.safetensors는 온폴리시(on-policy) 방식으로 증류되어, 증류에 흔히 따라오는 품질 손실 없이 Turbo 샘플링 속도를 유지합니다. 같은 날 Kroma 저장소도 정리되어, v0.1과 v0.2 파일은 삭제되고 v0.3.1 OPD, v0.3 베이스, v0.3 teacher만 남았습니다.
OPD가 바꾸는 것
이전 Kroma turbo 체크포인트들은 오프라인 방식으로 증류되었습니다. 즉 학생 모델이 고정된 샘플링 스케줄 위에서 teacher를 모방하도록 학습되었습니다. readme는 이 방식의 실패 양상을 직접 설명합니다. teacher가 선택한 상태에서 teacher를 모방하면 학생이 원래 데이터 매니폴드에서 점점 벗어나게 되고, 이는 모드 붕괴(mode collapse), 디테일 뭉개짐, 갑자기 작동하지 않는 프롬프트로 나타납니다.
OPD, 즉 온폴리시 증류는 방향을 뒤집습니다. 학생이 스스로 궤적을 생성하고, teacher가 바로 그 지점에서 교정합니다. 학습은 모델이 실제로 방문하는 상태에서만 이루어지므로, 증류된 체크포인트는 자신이 유래한 모델의 분포 안에 머무릅니다. 결과적으로 일반적인 증류 비용 없이 Turbo 속도를 얻는 것이 목표입니다.
현재 저장소에 있는 것
저장소는 10월 7일 재구성되어 이제 세 개의 파일을 담고 있습니다.
| 파일 | 크기 | 설명 |
|---|---|---|
kroma-v0.3.1-turbo-opd.safetensors | ~26.3 GB | 권장 체크포인트: v0.3을 온폴리시로 증류해 Turbo 속도 모델로 만든 것 |
kroma-v0.3-base.safetensors | ~51.3 GB | Krea 2 raw(비증류) 가중치를 완전히 파인튜닝한 것 |
kroma-sensei-booru-e6-teacher-velocity-v0.3.safetensors | ~25.7 GB | LoRA 학습과 OPD 실행에 사용된 teacher |
이전 Kroma 글에서 링크했던 kroma-v0.2-turbo, kroma-v0.2-base, kroma-v0.3-turbo, kroma-v0.3-tdm-4steps-artifact 파일들은 삭제되었으므로, 예전 다운로드 안내는 더 이상 연결되지 않습니다. readme의 "files to download" 표에는 여전히 kroma-v0.2-turbo.safetensors가 적혀 있는데, 이는 오래된 정보입니다. 받아야 할 파일은 v0.3.1 OPD입니다.
ComfyUI에서 실행하는 방법
v0.3.1 실행 방법은 v0.2, v0.3과 동일합니다. 표준 Krea 2 스택을 사용하므로, ComfyUI의 네이티브 Krea 2 지원 외에 필요한 커스텀 노드는 없습니다.
kroma-v0.3.1-turbo-opd.safetensors를ComfyUI/models/diffusion_models/에 넣습니다.- CLIPLoader를 type
krea2로 설정해 Krea 2 텍스트 인코더(Qwen3-VL, 12 레이어)를 로드합니다. - Krea 2 VAE를 로드합니다.
- 체크포인트가 증류된 Turbo 설정으로 샘플링합니다. 8-12 steps, CFG 1.0-1.5, shift (mu) 1.15
최소 구성은 Load Diffusion Model을 KSampler에 연결하고, 여기에 krea2 CLIP과 Krea 2 VAE를 입력하는 것입니다. 출력이 이상해 보인다면 readme가 가장 먼저 의심하는 것은 텍스트 인코더입니다. CLIPLoader type이 krea2인지, 그리고 ComfyUI가 네이티브 Krea 2 지원이 포함된 최신 빌드인지 확인하세요.
LoRA 학습도 그대로 이어집니다
OPD는 학생을 원래 분포 안에 유지하므로, 일반적인 방식으로 학습한 LoRA도 계속 작동합니다. teacher(kroma-sensei-booru-e6-teacher-velocity-v0.3.safetensors)나 base(kroma-v0.3-base.safetensors) 중 무엇을 대상으로 학습하든, 그 결과 LoRA는 변경 없이 kroma-v0.3.1-turbo-opd.safetensors에 로드됩니다. 이것이 공격적으로 증류된 학생 모델과의 주요 실용적 차이입니다. turbo 체크포인트를 교체할 때 어댑터를 다시 학습하거나 다시 도출할 필요가 없습니다.
제공 현황
모델: lodestones/Kroma
체크포인트: kroma-v0.3.1-turbo-opd.safetensors
베이스 모델: Krea 2
댓글
GitHub로 로그인하고 토론에 참여하세요.