AlayaWorld:一个开源交互式世界模型,支持实时相机控制和提示切换

news

Alaya Lab 发布了 AlayaWorld,一个用于构建交互式生成世界的全栈开源框架。它具备超一分钟的长视频一致性、实时相机控制和基于提示的交互功能。

2026年7月8日,Alaya Lab(隶属于盛大AI研究院)发布了 AlayaWorld,一个用于构建交互式生成世界的全栈开源框架。与传统游戏引擎需要手动创作每个对象不同,AlayaWorld 通过自回归世界模型动态生成整个可玩的游戏世界。

项目页面alaya-lab.github.io/AlayaWorld
演示视频YouTube
技术报告arXiv 2607.06291
代码与权重即将推出
许可证Apache 2.0
AlayaWorld 预告图——跨多种游戏风格的交互式世界生成 AlayaWorld 能够生成可玩的交互式世界,涵盖多种艺术风格,从写实场景到风格化的游戏环境。

四大核心属性

AlayaWorld 围绕四个设计原则构建:交互性一致性稳定性运行时效率

交互性

两个控制通道实现了实时的用户交互:

  • 渲染的3D缓存,通过轻量级 AdaLN 相机调制实现基于轨迹的导航——用户可以自由地向任意方向移动相机
  • 块级提示切换,在生成过程中引入新事件,允许用户触发战斗、施法或召唤怪物等操作

一致性

为了让探索中的世界保持可识别性,AlayaWorld 使用两种互补的内存系统:

  • 显式3D缓存,重新投影到查询视角以实现空间记忆
  • 压缩的帧历史嵌入,用于时间连续性

这使得重访的地点保持可识别,解决了困扰大多数视频生成模型的关键问题。

稳定性

长视频生成以不稳定著称——错误会随时间累积。AlayaWorld 通过在漂移的历史上训练并维护一个错误库来解决这一问题,该库将累积的伪影重新注入内存和目标,从而防止错误在超过一分钟的滚动生成中累积。

运行时效率

该系统通过少步 DMD 蒸馏短时间块实现实时交互。提示切换在块边界进行,以最小化视觉和语义延迟。

风格灵活性

AlayaWorld 支持同一场景的多种艺术风格。项目页面展示了一个江南场景,以以下风格渲染:

  • 写实——照片级渲染
  • 油画——表现主义笔触风格
  • 水墨——中国传统水墨画
  • 赛博朋克——霓虹灯光下的未来美学
  • 塞尔达风格——卡通渲染的游戏美学

用户可以在不同风格之间切换,甚至在同一世界会话中触发不同风格。

同一江南场景以四种不同艺术风格渲染:写实、水墨、赛博朋克和塞尔达风格。

超越游戏

虽然 AlayaWorld 的交互能力在类似游戏的环境中表现出色——用户可以自由导航、与敌人战斗、施法和召唤怪物——但该框架的设计目标是超越游戏。它在游戏录制和真实世界视频上进行训练,能够捕获多样的视觉外观和物理动态,为具身智能和合成环境训练开辟了可能性。

团队与路线图

该项目由 Alaya Lab 的 Kaipeng Zhang(核心负责人)和 Chuanhao Li(负责人)领导。完整的技术报告可在 arXiv 上获取。

发布路线图包括:

  • 推理代码
  • 预训练权重
  • 训练代码
  • 训练数据(部分)

所有组件均计划发布,使 AlayaWorld 成为一个全栈开源框架——从数据准备、模型架构到训练、推理加速和部署。

AlayaWorld:一个开源交互式世界模型,支持实时相机控制和提示切换 | ComfyUI Wiki