H3 가속 아레나: MiniMax H3 속도 향상의 블라인드 테스트 순위
ComfyUI 커뮤니티의 블라인드 A/B 아레나가 4000개의 사전 생성된 클립에 대한 투표를 바탕으로 23가지 MiniMax H3 가속 변형(FastH3, H3 Turbo 증류, SLA, PDD 및 머지)의 순위를 매깁니다.
H3 가속 아레나는 서로 다른 MiniMax H3 가속 변형으로 미리 생성된 클립 간의 블라인드 A/B 투표를 진행합니다.
모든 H3 가속을 위한 하나의 아레나
MiniMax H3 가속 생태계는 지난 한 달 동안 폭발적으로 성장했습니다. 증류 LoRA, 머지, 캐시 노드와 어텐션 커널이 이제 주목을 받기 위해 경쟁하고 있으며, 대부분의 주장은 자체 보고된 벤치마크에 의존합니다. Hugging Face의 multimodalart가 커뮤니티 벤치마커들과 함께 구축한 H3 가속 아레나는 그러한 주장을 블라인드 쌍별 투표로 대체합니다. 동일한 프롬프트와 시드에서 서로 다른 가속 변형으로 생성된 두 클립이 나란히 재생되며, 시청자가 더 나은 쪽을 선택하면 Elo 및 Bradley-Terry 평점이 신뢰 구간과 함께 공개 리더보드로 누적됩니다.
현재 코퍼스는 200개 프롬프트 세트에 걸친 23가지 평가 변형과 약 4,000개의 사전 생성 클립으로 구성되며, 텍스트 기반 비디오 생성 비주얼, 텍스트 기반 비디오 생성 오디오, 이미지 기반 비디오 생성 비주얼, 이미지 기반 비디오 생성 오디오의 네 가지 슬라이스로 나뉩니다. H3는 비디오와 함께 오디오도 생성하므로, 아레나는 빠른 비주얼 모델이 영상만으로 승리하지 못하도록 사운드 품질을 별도로 평가합니다.
어떤 변형이 풀에 포함되나
평가 풀은 우리가 개별적으로 다룬 대부분의 접근 방식을 포함합니다:
| 변형 계열 | 아레나 내 예시 |
|---|---|
| 증류 체크포인트 | FastVideo FastH3 미리보기 v0.2 및 v1 (4스텝 및 6스텝 구성) |
| Turbo 증류 LoRA | LightX2V H3-Turbo 4스텝/8스텝 v0.1~v1.1, larryvrH Turbo 4스텝 EMA, joyfox FL2VA 4스텝 |
| NPU 기반 증류 모델 | Beidouqixing FlashGen 4스텝, Ascend NPU에서 데이터 프리 방식으로 학습 |
| 머지 실험 | silveroxides DARE-TIES 및 4~8스텝 DARE 머지 |
| 캐시 및 라우팅 | Tutu AudioVideo 20~8스텝 NFE 체크포인트, mvp-lab RAVEN 스트리밍 미리보기 |
| 호스팅 참조 | 품질 앵커로서 fal을 통한 MiniMax H3-Max |
| 베이스라인 | Elo 1000에 고정된 28스텝 MiniMax-H3 베이스 모델 |
이들 중 다수는 동일한 프롬프트에서 서로 비교된 적이 없는 커뮤니티 LoRA이므로, 이 아레나는 H3 가속 생태계를 위한 최초의 동등한 조건 비교입니다.
모든 것이 품질 관리를 통과하지는 않습니다
아레나의 방법론은 손상된 변형에 대해 유난히 엄격합니다. 15개 레그가 공개된 사유와 함께 투표에서 제외되었습니다. 여기에는 VSA 게이트 텐서가 diffusers 로더에 의해 경고 없이 누락되어 “흐릿하게 뭉개진 결과물”을 생성하는 FastVideo 전체 체크포인트(작성자들이 부당하게 불리한 평가를 받았을 것), 확인된 업스트림 결함으로 추적된 Silveroxides 머지, 그리고 수정된 재실행으로 대체된 LightX2V SLA 실행이 포함됩니다. FastVideo의 가장 많이 학습된 합성 데이터 레그는 손상되었기 때문이 아니라 순전히 평점 수렴을 가속화하기 위해 보류되었습니다.
투표 무결성도 비슷한 수준의 주의를 기울입니다. Hugging Face OAuth를 통한 로그인이 필수이며, 각 투표는 고정된 사용자 ID에 귀속되고, 클립은 불투명 토큰으로 제공되어 투표가 이루어지기 전에는 변형 이름이 유출되지 않습니다. Elo는 28스텝 베이스라인에 1000으로 고정되며, 신뢰 구간은 부트스트랩 재표본추출과 순서 재섞기에서 비롯됩니다. 작성자들은 단순 순열 구간이 데이터가 가장 적을 때 오히려 더 좁아진다는 것을 발견했기 때문입니다.
현황
리더보드 수치는 현재 Space의 공개 전환까지 숨겨져 있지만, 아레나 앱 자체는 라이브 상태로 실행 중입니다. 통계 엔드포인트는 200개의 페어링 가능한 프롬프트, 23개의 페어링 가능한 변형 및 4,000개 클립의 코퍼스를 제공하며, 투표 API도 응답합니다. 이 프로젝트를 발표한 Reddit 게시물은 “15개 이상의 H3 LoRA, 파인튠, Max”가 맞대결을 펼친다고 소개했으며, 해당 발표는 같은 날 r/StableDiffusion과 r/comfyui의 최상위에 올랐습니다. 평점이 공개되면 이는 어떤 H3 가속을 설치할지 선택하기 위한 기준표가 될 것이며, 또한 많은 Turbo LoRA 체크포인트 중 무엇을 유지할 가치가 있는지도 판가름해 줄 것입니다.
댓글
GitHub로 로그인하고 토론에 참여하세요.