EVOKE 14B: Alaya Labのオープンウェイト3ステップインタラクティブワールドモデル

ComfyUI Wikinews

Alaya LabがEVOKEを公開。3ステップで384x640の動画を生成する14Bパラメータのオープンウェイトワールドモデルで、外部ワールド状態メモリと実行中のプロンプト変更に対応します。

Alaya Lab は、わずか 3ステップのデノイジング、分類器フリーガイダンスなし で24fps・384x640の動画を生成する、14Bパラメータのインタラクティブワールドモデル EVOKE をリリースしました。シーンのジオメトリは外部のカメラインデックス型ワールド状態バンクに保持されるため、デノイザーのコンテキストを増やすことなくセッションを無期限に実行でき、プロンプトは再起動なしでロールアウト中に変更できます。

概要

EVOKE("Endless Interactive World with Bounded State and Long-Horizon Supervision")は、Alaya LabによるAlayaWorldの後継モデルです。論文では、WBenchインタラクティブベンチマークで最先端の結果を報告しつつ、VBench-LongとVBench-2.0でも競争力を維持する、3ステップのCFGフリーなワールドモデルについて説明されています。

蒸留モデルは 384 x 640 @ 24fps で動画を生成し、30秒のロールアウトにわたって一貫性を維持します。単一のH200上で、2.11秒ごとに1.5秒分の動画を生成します。ウェイトはHugging Faceで公開されており、推論およびトレーニング用のランチャーはGitHubリポジトリにあります。

EVOKE overview video

公式EVOKE概要動画

3ステップ生成、ゼロCFG

ほとんどの数ステップモデルは、蒸留に使用される教師モデルから性能の上限を受け継ぎます。EVOKEは教師を固定のジェネレータとして扱うのではなく、長期的なインタラクティブ生成向けに再設計します。チャンク単位のグループ化、遠距離フレーム検索、リニアアテンションによるグローバル状態により、教師のメモリと計算量はセッションの長さに応じてリニアにしか増加しません。これにより、30秒にわたる自己強制型の教師信号が手頃なコストで実現可能になります。

自己強制ロールアウトの下で適用される分布マッチング目的関数は、これらの機能を3ステップの生徒モデルに転移させます。このモデルは分類器フリーガイダンスを使用せず、各ステップのフォワードパスは1回だけで済みます(通常は2回)。

EVOKE推論パイプライン

EVOKE推論パイプライン: 永続的なワールド状態バンクが自己回帰型の数ステップデノイザーに入力を供給します

エンドレス、ウィンドウ型ではない

インタラクティブワールドモデルには相反する要件があります。デノイザーのコンテキストやキーバリューキャッシュに履歴を保持すると、セッションの長さに応じてコストが増加する一方、低レイテンシーのインタラクションには数ステップの生成が必要です。EVOKEは永続的なワールド状態を外部化することでこの問題を解決します。

  • 書き込み: 単眼深度モデルが、既知のカメラポーズの下で各出力チャンクの深度を推定し、永続的なポイントクラウドにアンプロジェクトします。
  • 読み取り: 現在のカメラポーズがバンクに直接アクセスします。共可視性でランク付けされた最大8つのソースが、バッチ化されたZバッファスキャッタで融合され、ワープ済み画像とピクセル単位の可視性マスクを返します。
  • 削除: オプションの保持ウィンドウ。時間単位の実行時に明示的に有効化されます。

ビューに関連する情報のみが取得されるため、セッションがどれだけ長く続いてもデノイザーのコンテキストは有界に保たれます。セッションの長さとメモリをトレードオフする必要はありません。

生成途中で世界を変える

チャンク単位の条件付けにより、ロールアウトの実行中にプロンプトを変更できます。カットも再起動も不要です。以下の各スケジュールは、6チャンク中3チャンク目(213フレーム、8.9秒)で切り替わります。

シーン切り替え後のプロンプト
オーロラデモ凍ったツンドラ、極昼空全体にオーロラが燃え上がる
カメラ制御デモ永続的なワールドナビゲーションワールドの空間状態を維持したままカメラが移動・回転する

条件付けモード

モード入力カメラ制御
v2v参照動画 + ポーズトラックあり(参照ウィンドウを超えて継続)
i2v最初の1フレーム + ポーズトラックあり
t2vプロンプトのみなし(エンジンがワープ + t2v を禁止)

機能デモ: 生成済みワールドをゲームのように操作(公式プロジェクトページより)

リリース内容

このリリースには、ベースコンポーネントに加えて4つのモデルが含まれています。

ディレクトリモデルステップ
stage3_post_distillationリリース版モデル3、CFGフリー
stage1_camera_controlカメラ制御可能なマルチステップモデル50、CFG 5.0
stage2_few_step_training数ステップ蒸留(3ステップピラミッド)トレーニングのみ
evoke_teacherデュアルエキスパートDMD教師モデル50、CFG 5.0

すべてのEVOKEディレクトリはtransformer/の親ディレクトリであり、from_pretrained(path, subfolder="transformer")で読み込まれます。蒸留モデルはv2v条件付けのみでトレーニングされているため、これらのモデルに対するi2vt2vゼロショットになります。3つのモードすべてが分布内にあるのはstage1_camera_controlのみです。evoke-baseのVAE、テキストエンコーダ、トークナイザ、スケジューラは、公開済みのHeliosベースから来ており、その起源はWanにまで遡ります。

入手方法

EVOKEはローンチ時点ではComfyUIをネイティブサポートしていません。公式リリースでは、テキストから動画へ、画像から動画へ、動画から動画へ、およびロールアウト途中のセグメントモードに対応したPython推論ランチャー(scripts/inference/infer_post_distill.sh)と、各ステージ用のトレーニングランチャーが提供されています。ワールド状態バンクにはViGeo深度バックエンドが必須です。Depth-Anything-3はオプションです。ウェイトはHugging FaceのAlayaLab/Evokeで公開されています。

コメント

GitHubでサインインしてディスカッションに参加しましょう。

コメントを読み込み中…
EVOKE 14B: Alaya Labのオープンウェイト3ステップインタラクティブワールドモデル | ComfyUI Wiki