Anima Control Pose Preview-2: нативное управление позами для ComfyUI

news

Anima Control Pose Preview-2 добавляет генерацию изображений с контролем поз в Anima с помощью родных пользовательских узлов ComfyUI, поддержку нескольких разрешений 512/768/1024 и улучшенную точность поз

Вышел новый адаптер управления позами для модели изображений Anima v1.0 — Anima Control Pose Preview-2 добавляет управление на основе скелетных поз к Anima с помощью родных пользовательских узлов ComfyUI, поддержку нескольких разрешений и значительно улучшенную точность следования позе.

Что это даёт

Anima Control Pose — это channel-concat Control-LoRA, который управляет генерацией изображений Anima на основе карты скелетной позы. Задав фото для справки, узел ComfyUI определяет позу и отрисовывает скелет, которому модель следует во время генерации — это позволяет точно контролировать позиционирование персонажа, жесты и язык тела в AI-сгенерированных изображениях.

Preview-2 — это крупное обновление по сравнению с Preview-1, включающее:

  • Поддержка нескольких разрешений: 512, 768 и 1024 пикселей (Preview-1 работал только с 512)
  • Больший корпус для обучения — более чистая анатомия и устойчивые позы
  • Новый узел ComfyUI "Anima Pose Control" — автоматически определяет позу из ссылочного фото с несколькими стилями отрисовки скелета (тонкий, толстый, марионетка, тепловая карта, с/без рук и лица)
  • Body-PCK@0.1: ~0.83 при разрешении 1024 (против ~0.59 для Preview-1 при 512)

Метод

Адаптер управления использует инициализированный нулями ControlEmbedder, который создаёт управляющие токены, добавляемые к выходу замороженного базового патч-эмбеддера, а также низкоранговый адаптер ранга 16 на блоках трансформера. Базовая модель Anima, текстовый энкодер и VAE остаются замороженными.

При strength = 0 адаптер точно соответствует базовой модели — вклад управления растёт только по мере уменьшения функции потерь во время обучения.

ПараметрЗначение
Разрешение512 + 768 + 1024, с сегментированием по соотношению сторон
Ранг адаптера16
Выпадение управления0.1
Точностьbf16

Использование в ComfyUI

Релиз включает всё необходимое для бесшовной работы с ComfyUI:

  1. Установка: Поместите anima_pose_preview2.safetensors в ComfyUI/models/loras/, затем скопируйте две папки пользовательских узлов (anima_control_lora/ и ComfyUI-anima-pose-control/) в ComfyUI/custom_nodes/
  2. Рабочие процессы: Четыре встроенных .json рабочих процесса — демонстрационный (с управлением и без него рядом), простой, редактирование и сравнение (одна поза во всех стилях скелета)
  3. Определение позы: Узел Anima Pose Control автоматически загружает ONNX-модели DWPose (~316 МБ) при первом использовании; работает офлайн после кэширования

Доступность

Anima Control Pose Preview-2 доступен на Hugging Face по некоммерческой лицензии:

  • HF Репозиторий: czxkck/Anima-Control-Pose
  • Основной файл: anima_pose_preview2.safetensors (поместите в ComfyUI/models/loras/)
  • Пользовательские узлы: включены в репозиторий в папке comfyui/
  • Базовая модель: Anima v1.0 от Circlestone Labs (необходима)

Автор отмечает, что Preview-2 всё ещё экспериментален — хотя он значительно улучшен, он всё ещё может пропускать позы или создавать артефакты на сложных позах. Разрабатывается Preview-3 с упором на лучшее представление скелета и специально созданный детектор поз для аниме.

Комментарии

Войдите через GitHub, чтобы участвовать в обсуждении.

Загрузка комментариев…
Anima Control Pose Preview-2: нативное управление позами для ComfyUI | ComfyUI Wiki