Kroma v0.3.1: дистилляция on-policy для тонкой настройки Krea 2
Lodestones выпускает Kroma v0.3.1 OPD для Krea 2: турбо-чекпойнт, дистиллированный on-policy, который остаётся внутри распределения базовой модели, с сохранением обучения LoRA.
kroma-v0.3.1-turbo-opd.safetensors дистиллирован on-policy, поэтому он сохраняет скорость выборки Turbo без платы за качество, обычно сопутствующей дистилляции. Репозиторий Kroma был урезан в тот же день: файлы v0.1 и v0.2 удалены, остались только v0.3.1 OPD, база v0.3 и учитель v0.3.
Что меняет OPD
Ранее чекпойнты Kroma turbo дистиллировались offline: студента обучали имитировать учителя по фиксированному расписанию выборки. В readme напрямую описан режим отказа этого рецепта. Имитация учителя на состояниях, которые выбрал учитель, постепенно уводит студента с исходного многообразия данных, что проявляется как коллапс мод, вымытые детали и промпты, которые внезапно перестают работать.
OPD, дистилляция on-policy, переворачивает направление. Студент генерирует собственные траектории, и учитель корректирует его именно в этих точках. Обучение происходит только на состояниях, которые модель действительно посещает, поэтому дистиллированный чекпойнт остаётся внутри распределения модели, из которой он получен. Результат задуман как скорость Turbo без обычной платы за дистилляцию.
Что сейчас в репозитории
Репозиторий был реорганизован 7 октября и теперь содержит три файла:
| Файл | Размер | Что это |
|---|---|---|
kroma-v0.3.1-turbo-opd.safetensors | ~26.3 GB | Рекомендуемый чекпойнт: v0.3, дистиллированный on-policy в модель со скоростью Turbo |
kroma-v0.3-base.safetensors | ~51.3 GB | Полная тонкая настройка исходных (недистиллированных) весов Krea 2 |
kroma-sensei-booru-e6-teacher-velocity-v0.3.safetensors | ~25.7 GB | Учитель, использованный для обучения LoRA и для запуска OPD |
Файлы kroma-v0.2-turbo, kroma-v0.2-base, kroma-v0.3-turbo и kroma-v0.3-tdm-4steps-artifact, на которые ссылались более ранние статьи о Kroma, были удалены, поэтому старые инструкции по скачиванию больше не работают. В таблице «файлы для скачивания» в readme по-прежнему указан kroma-v0.2-turbo.safetensors, что устарело: скачивать нужно v0.3.1 OPD.
Как запустить это в ComfyUI
Запуск v0.3.1 идентичен v0.2 и v0.3. Используется стандартный стек Krea 2, поэтому помимо встроенной поддержки Krea 2 в ComfyUI никакие пользовательские ноды не требуются:
- Поместите
kroma-v0.3.1-turbo-opd.safetensorsвComfyUI/models/diffusion_models/ - Загрузите текстовый энкодер Krea 2 (Qwen3-VL, 12 слоёв) с помощью CLIPLoader с типом
krea2 - Загрузите VAE Krea 2
- Выполните выборку с настройками Turbo, для которых дистиллировался чекпойнт: 8-12 шагов, CFG 1.0-1.5, shift (mu) 1.15
Минимальная цепочка: нода «Загрузить модель диффузии» в KSampler, а на её вход подаются CLIP krea2 и VAE Krea 2. Если выход выглядит неправильно, в readme первым подозреваемым идёт текстовый энкодер: подтвердите, что тип CLIPLoader указан как krea2, и что ComfyUI обновлён до актуальной сборки со встроенной поддержкой Krea 2.
Обучение LoRA по-прежнему переносится
Поскольку OPD удерживает студента внутри исходного распределения, LoRA, обученные обычным способом, продолжают работать. Обучайте либо на учителе (kroma-sensei-booru-e6-teacher-velocity-v0.3.safetensors), либо на базе (kroma-v0.3-base.safetensors), и полученная LoRA без изменений загрузится на kroma-v0.3.1-turbo-opd.safetensors. В этом главное практическое отличие от агрессивно дистиллированного студента: при замене турбо-чекпойнта не нужно переобучать или заново выводить адаптеры.
Доступность
Модель: lodestones/Kroma
Чекпойнт: kroma-v0.3.1-turbo-opd.safetensors
Базовая модель: Krea 2
Комментарии
Войдите через GitHub, чтобы участвовать в обсуждении.