Fizgig 9.2 сокращает обучение LoRA для MOSS-Image до 20 минут

ComfyUI Wikinews

Fizgig 9.2 переходит на PyTorch 2.15 и ускоренный шаг Muon: LoRA для MOSS-Image обучается за 20 минут вместо 49 на RTX 5090 при втрое меньшей памяти. LoRA грузятся в ComfyUI.

Fizgig 9.2, выпущенный 8 ноября, делает каждый запуск обучения быстрее и легче, и MOSS-Image в первую очередь. На RTX 5090 LoRA для MOSS-Image (94 изображения, пакет 1, Muon, 70 эпох) теперь обучается примерно за 20 минут вместо 49, а оценки сходства получились такими же или лучше (примечания к выпуску).

Вкладка Start в Fizgig

Вкладка Start в Fizgig. Тренер работает автономно, а затем сохраняет LoRA в формате kohya в ComfyUI/models/loras/.

Цифры

LoRA для MOSS-Image на RTX 5090До 9.29.2
94 изображения, пакет 1, Muon, 70 эпох49 миноколо 20 мин
Память, пакет 3, gradient checkpointing21.7 ГБ7.1 ГБ

При пакете 3 тренер теперь сравнивается с OneTrainer на 1.07 с за шаг на той же карточке, потребляя меньше памяти (6.9 ГБ против 7.4 ГБ), так что обучение с пакетами стало практичным вариантом, а не компромиссом.

Процесс обучения в Fizgig

Запуск на вкладке Training, очередь в боковой панели.

Что изменилось

  • PyTorch 2.15. При включённом gradient checkpointing память резко снижается: Krea 2 при пакете 1 переходит с 22.9 на 14.9 ГБ. На ноутбуке с 16 ГБ и 4090 Fibo 2.0 обучается на 22% быстрее, Klein на 13%, Krea 2 на 11%.
  • Более быстрый шаг Muon. Теперь он обрабатывает матрицы LoRA вместе, а не по одной: в 12 раз быстрее при том же результате. Обучение LoKR в 4-6 раз быстрее на любой модели.
  • Более быстрые пакеты. Подписи разной длины больше не замедляют attention: шаги на 18% быстрее на MOSS-Image, на 12% на Krea 2, на 9% на Qwen-Image 2.1.

MOSS-Image Turbo Train

Версия 9.2.5 добавляет экспериментальный пресет MOSS-Image Turbo Train: пресет Fast (rank 16, 0.25 MP, Muon) с Adaptive LR в диапазоне от 2e-4 до 4e-4 и отслеживанием по каждому изображению, чтобы у каждой картинки был собственный темп. Это быстрый способ увидеть, чем может стать LoRA, прежде чем запускать долгое обучение, и он хорошо держится на хорошем датасете.

Пресеты для MOSS-Image также перешли на новую схему Clean-end, 30:7:60:8:3: 30% шагов на почти чистых изображениях до эпохи 7, затем 60% с эпохи 8. Загрузите пресет заново, чтобы его подхватить, поскольку сохранённые настройки оставляют старую схему.

Обновление

Обновление скачивает PyTorch 2.15 (около 3 ГБ) и требует Python 3.11 или новее. Драйверы NVIDIA должны поддерживать CUDA 13, версия 580 или новее; если после обновления Fizgig не видит GPU, обновите драйвер. На AMD входящая в комплект сборка PyTorch с ROCm не изменилась, а арендованные поды подхватывают новую версию после перезапуска.

Fizgig это отдельный тренер, а не нода ComfyUI. Готовые LoRA это обычные файлы .safetensors, которые загружаются стандартным загрузчиком LoRA в ComfyUI.

Комментарии

Войдите через GitHub, чтобы участвовать в обсуждении.

Загрузка комментариев…
Fizgig 9.2 сокращает обучение LoRA для MOSS-Image до 20 минут | ComfyUI Wiki