Kromoss: полный файнтюн MOSS-Image для ComfyUI

Kromoss это полный файнтюн MOSS-Image-Base, опубликованный 19 октября 2026 года автором lodestones, создателем линейки чекпоинтов Chroma и 8-шаговых дистиллированных весов MOSS-Image SFT. Он сохраняет архитектуру, текстовый энкодер Qwen3.5-9B и малый VAE FLUX.2 от MOSS-Image-SFT, поэтому подключается к существующим рабочим процессам MOSS-Image, а результат упакован в тот же формат одиночного файла, который ComfyUI уже загружает.

В течение нескольких часов после загрузки модель набрала 96 лайков на Hugging Face, а канал MOSS-Image в Banodoco сравнил её с int8-файнтюном с учителем на тех же сидах.

Что меняет файнтюн

Карточка модели скупо описывает цель: полный файнтюн в основном исправляет размытость базовой модели. Всё остальное унаследовано. Обучение шло по рецепту финальной стадии из отчёта MOSS-Image, масштабированному до 64 изображений на обновление: гибридный Muon-AdamW с learning rate 9e-6 и разогревом на 200 шагов, усечённые logit-normal таймстепы, затухание норм q/k финального блока до единицы и EMA 0.999 для опубликованных весов. Чекпоинт это обновление 9000 того запуска, на 576 тыс. изображений обучения размером 1024 px, при этом изображения меньше 896² были исключены из датасета. Обучение продолжается, и репозиторий перевыкладывает EMA-чекпоинт каждые несколько часов: только за первый день загрузки последовательно вышли обновления 2000, 4000, 5000, 7000 и 9000, так что и номер обновления, и число изображений будут меняться и дальше.

Упаковано для ComfyUI, а не только для diffusers

Репозиторий устроен так, что перед первым рендером ничего не нужно конвертировать. Пять файлов предназначены для размещения в дереве ComfyUI:

• diffusion_models/kromoss_bf16.safetensors (10.2 GB) в models/diffusion_models/, загружается нодой Загрузить модель диффузии. Он один к одному заменяет moss_image_sft_bf16.safetensors в рабочих процессах Comfy-Org.
• diffusion_models/kromoss_int8_convrot.safetensors (5.4 GB) для int8-пути, тот же формат ConvRot W8A8, что и у moss_image_sft_int8_convrot.safetensors от Comfy-Org.
• text_encoders/qwen3.5_9b_bf16.safetensors (19.3 GB) в models/text_encoders/, загружается нодой Загрузить CLIP с типом moss_image. Это тот же энкодер, что используют другие сборки MOSS-Image, поэтому существующей установке не нужен второй экземпляр.
• vae/flux2-vae_small.safetensors в models/vae/.
• 8-steps-dmd-lora.safetensors (1.19 GB) в models/loras/, применяется нодой LoraLoaderModelOnly с силой 1.

Файл int8 это не переквантованная копия чужого чекпоинта: 168 блочных линейных слоёв (proj.{qkv,o,ffn_up_gate,ffn_down}) хранятся как int8 с построчными масштабами после регулярного преобразования Адамара шириной 256 по входной размерности, ComfyUI восстанавливает поворот при загрузке вместо хранения матриц, а каждый блок выбирает int8-внимание ComfyUI. Кроме того, в репозитории есть quantize_convrot.py для получения этого формата из любого одиночного файла bf16 и convert_to_comfy.py для превращения папки transformer/ из diffusers в объединённую раскладку proj.qkv.

Оба скрипта содержат самопроверку, из-за которой их стоит сохранить: запущенные на собственном transformer/ модели MOSS-Image-SFT, они побайтово воспроизводят опубликованные Comfy-Org файлы moss_image_sft_bf16.safetensors и moss_image_sft_int8_convrot.safetensors, а --compare FILE сравнивает ключи, формы и dtypes с эталоном. Значит, любой может конвертировать свой собственный файнтюн MOSS-Image теми же двумя командами.

8-шаговая LoRA

Прилагаемая 8-steps-dmd-lora.safetensors это DMD-дистилляция MOSS-Image-Base в пространстве данных, fp32, ранг 128 с alpha 128 на proj.{q,k,v,o,ffn_up_gate,ffn_down} каждого блока, сохранённая в ключах kohya. Она следует принятому в сообществе соглашению об отдельных проекциях q, k и v, а ComfyUI при загрузке раскладывает их по объединённым срезам qkv одиночных файлов MOSS-Image.

Карточка модели прямо указывает, что LoRA не следует объединять с весами bf16: дельта близка к шагу округления bf16, поэтому она применяется необъединённой с силой 1.

Измеренное следование промпту

Репозиторий приводит оценки CLIP ViT-L/14 на 100 промптах PartiPrompts, причём строки Kromoss измерены на обновлении 2000, а не на текущем опубликованном чекпоинте:

Если читать буквально, таблица говорит, что один только полный файнтюн немного меняет следование промпту на резкость, а дистиллированная LoRA поверх возвращает и слегка превышает оценку Base. Цифры получены самим автором и взяты с промежуточного чекпоинта.

Доступность

Kromoss доступен на Hugging Face по адресу lodestones/Kromoss и также зеркалирован на Civitai. Поддержка MOSS-Image есть в текущем master ComfyUI, поэтому ни для чекпоинта, ни для LoRA не нужны пользовательские ноды. О базовой модели и официальных весах читайте в материале о релизе MOSS-Image и в анонсе 4-шаговых и 8-шаговых адаптеров сообщества.