Runway Solaris:把视频模型变成实时生成界面的操作层

点击和拖拽直接决定下一帧画面,界面从预制页面变成持续生成的视觉空间。

作者:Runway09-02 · 12 分钟⚑ 研究论文
研究解读 · 小互解读
一分钟速览
  • 发布了什么:Solaris,Runway 公布的首个界面世界模型。
  • 它是什么:根据当前画面和用户动作实时生成下一帧,新画面仍能继续接受操作。
  • 能做什么:直接拖动物体、改变材质、组合食材和切换场景,不必逐项预写交互规则。
  • 核心机制:逐帧自回归、少步蒸馏和自输出训练;LLM 做决策,世界模型做渲染。
  • 影响:界面呈现从预写组件变成连续生成,视频模型开始承担显示层和一部分交互层。

Runway 发布了 Solaris,一种用视频模型实时生成软件界面的研究系统。它也是 Runway 公布的首个“界面世界模型”(Interface World Model),研究对象从一段视频扩展到了可以持续操作的画面。

用户可以直接在画面里点击、拖拽或输入。Solaris 根据当前画面和这次操作生成下一帧,新画面随后继续接受操作。普通视频模型交付一段供人观看的内容,Solaris 让视频生成进入持续运行的交互循环。

它会改变界面开发的分工。材质、空间变化和连续运动可以由模型现场生成,开发者无需为演示里的每一种行为预写前端事件规则;身份、权限、事实数据、文字、审计和失败恢复由结构化软件负责。

Solaris 目前是研究原型,研究页提供 Early Access 申请。下面这段 82.752 秒的官方发布视频集中展示了它目前能做什么。

Runway 官方发布视频,82.752 秒。片段集中展示试衣、空间变化、食物组合与连续场景交互。

界面从“调用预制页面”变成“生成下一帧”

今天的软件会先保存结构化状态,再由代码把状态渲染成按钮、文字、图片和动画。点击一个按钮时,事件处理器执行开发者已经写好的规则,改变状态,界面随后重新渲染。即使 AI 根据提示生成了整个网页,它最终交付的通常仍是 HTML、CSS、JavaScript 或某种组件树。

传统路径把可发生的状态和操作预先写进系统,同一状态可以被读取、搜索、审计和复现,权限与错误也能在结构化系统里处理。开发者没有定义的行为不会自动出现;视觉设计还要被翻译成代码能表达的元素,细腻的材质、空间和连续运动经常在翻译中损失。

Solaris 改变的是最后这段路径。当前画面不再只是代码的输出,它也成为模型预测下一帧的状态。点击、拖拽和文字指令与这张画面一起送入模型,下一帧由模型现场生成。Runway 用“没有中间表示”描述这一变化:演示中的界面行为无需逐项翻译成预先编写的前端规则,模型服务、数据连接、权限和底层计算继续留在系统中。

传统软件
  1. 结构化状态
  2. 预写事件规则
  3. 代码渲染
  4. 确定的下一界面

得到:可复现、可审计、低成本

Solaris
  1. 当前整帧
  2. 点击、拖拽、语言
  3. 世界模型生成
  4. 现场出现的下一帧

得到:视觉连续、开放式响应

变化发生在界面生成单位:一边先约束状态再渲染,一边把当前画面和动作直接变成下一帧的条件。

这使同一件事出现两种生产方式。传统软件把可能发生的状态预先写进代码,Solaris 则在交互发生时生成更多现场变化。

点击怎样进入视频模型

Solaris 建立在 Runway 的 Gen-4.5 视频生成模型之上,并沿用 GWM-1 的路线。世界模型根据当前环境和动作预测后续状态;GWM-1 已经能够逐帧生成,并接受相机姿态、机器人指令和音频等动作条件。Solaris 把这种动作条件化转向鼠标、触屏和文字输入。

用户点中一件衬衫时,系统不会查找“衬衫按钮”的固定事件。当前画面、点击位置和交互语义成为下一帧的条件。模型从已经发生的动作学习视觉后果,因此同一个拖拽在不同场景中可以移动物体、改变材质或触发场景转换。

普通视频扩散模型会对整段视频反复执行几十步去噪,几秒甚至几分钟的等待可以用于内容生产,却无法支撑连续操作。Runway 对 Solaris 做了三步实时化改造:先改为逐帧自回归生成,每一帧只依赖已经出现的历史;再把多步去噪蒸馏成少数几步;最后让快速模型继续学习自己的输出,降低长时间生成时的画质漂移。

  1. 当前帧 + 用户动作 只使用已经发生的点击、拖拽、输入与画面历史
  2. LLM 解释与决策 判断原地变化还是转场,并生成渲染提示
  3. Solaris 少步生成 逐帧自回归,用蒸馏后的少数去噪步骤产生下一帧
  4. 新帧进入历史 显示结果同时成为下一次操作的状态
回流:快速模型在自身输出上训练,降低长时间生成时的漂移
新帧既是界面,也是下一次预测的输入;推理与渲染分开,历史沿同一个闭环累积。

语言模型与世界模型在循环里承担不同工作。语言模型解释用户请求,判断当前场景应该原地变化还是切换到新场景,并产生引导 Solaris 的提示;Solaris 负责把决定连续画成可操作的帧。推理与渲染分开后,语言模型不必用代码重建每个像素,视频模型也不必独自理解完整任务。

一次选择触发连续场景变化 埃菲尔铁塔界面会在总览、夜景、信息叠层与近景之间连续转换,显示‘决定下一步’与‘把下一步画出来’的分工。
同一场景持续改变时间与光照 街景从白天生成到日落和夜晚,画面状态在连续帧里延续,而不是调用三张预制页面。
两段视频来自 Runway 研究页的 How Solaris Works 部分,分别展示状态转换与连续生成。

Runway 认为交互延迟接近半秒时,体验就会开始脱离“实时”。研究页称 Solaris 已达到交互速度、比标准视频扩散模型便宜数个数量级,并把画质维持在 720p。

四段演示显示了哪些新交互

Solaris 的演示可以归到三个变化:界面完全视觉化、场景持续存活、交互范围由模型能力决定。

虚拟试衣里,人物参考图、衣架和衬衫处在同一场景,用户把衣服直接拖到自己身上。沙拉演示没有“配料列表—确认—生成结果”这条固定流程,食材被拖进碗里的过程就是操作。客厅里的光线、家具和材质会在连续画面中变化,界面不会只在点击结束后替换成另一张静态页面。燃烧教学允许用户把不同材料放进火焰,观察模型生成的后续反应。

四类场景覆盖试穿、空间设计、食物组合和科学教学。同一套生成循环不需要切换成不同的菜单、表单和确认页,场景里的对象、位置与连续变化本身就构成操作语言。

两组评测分别证明了什么

Runway 先测试了从截图重建界面时会丢掉多少信息。GPT-4o、Gemini 2.5 Pro 和 Claude Fable 5 接收单张截图,再重建对应界面。评测使用 DINOv3 特征相似性、CLIP 相似性和结构相似性,覆盖普通网页、幻灯片、图形设计和自然场景。三种模型的分数都会随着视觉内容变复杂而下降,Fable 5 的整体分数更高,自然场景的重建分数最低。

① 从截图重建界面:信息会不会丢失 GPT-4o · Gemini 2.5 Pro · Claude Fable 5|DINOv3、CLIP、结构相似性
Runway 截图重建评测:DINOv3、CLIP 和结构相似性随视觉复杂度上升而下降

读法:视觉越接近自然场景,三种模型的重建分数都越低;Fable 5 的整体分数更高。

三组可见重建样本保留了从普通网页、图像密集海报到自然场景的复杂度递进;下方原始图表汇总三类相似性指标。

结果显示,把丰富画面先压进语言或代码、再重建成界面,会在布局、材质和空间关系上持续损失信息。Solaris 直接在像素空间延续当前画面,正是为了避开这段压缩与还原过程。

第二组实验比较 Solaris 与 Claude Opus 5 生成的编码界面。两者从同一张图和同一条交互要求出发,250 名参与者对 30 个示例作出约 7,500 次成对判断,分别回答哪种结果更遵循指令、哪种结果在场景中更自然。

两段 Solaris 与编码界面并排对比 每段视频左右两侧接受同一条交互指令

点击任意元素后,它保持形状并缓慢上浮。

镜头从灯塔阳台平滑向右、向下移动,最后落到海岸浪花。

Runway 内部人类偏好评测:Solaris 在指令遵循与场景自然度上获得更多偏好

读法:图表给出 62% 更偏好 Solaris 的指令遵循、72% 更偏好场景自然度。

原始视频给出两组具体行为,偏好图汇总 250 人对 30 个示例、约 7,500 次成对判断。

偏好图汇总 250 名参与者约 7,500 次判断:62% 选择 Solaris 的结果更符合指令,72% 认为 Solaris 在场景中表现得更自然。两段并排视频展示了参与者看到的具体交互:点击海底物体后,物体保持形状并持续上浮;灯塔场景则沿阳台、海岸和浪花连续移动镜头。

生成模型与现有软件如何分工

Solaris 把界面呈现从“代码调用预制组件”改成“模型生成下一帧”,软件栈也会出现新的分工。生成模型负责材质、空间、连续运动和开放式视觉响应;结构化系统负责身份、权限、产品数据、交易、日志和可搜索文字。

工作
生成模型负责
结构化系统负责
视觉呈现 连续材质、空间与开放动作 业务状态与界面规则
事实与数据 用起始图形成视觉场景 库存、价格、文档与产品数据
文字与输入 生成静态文字与视觉排版 文字搜索、复制与字段校验
身份与权限 按账户状态生成对应界面 账户、授权与交易规则
可访问性 响应点击、拖拽与文字指令 语义结构、键盘路径与辅助技术
审计与恢复 延续当前场景和操作历史 日志、测试、回滚与恢复
生成模型负责现场呈现和连续交互,结构化系统负责数据、规则与可读取状态。

Runway 还提出了多模型协作方式:语言模型理解意图并决定场景变化,图像模型处理暂停时的清晰文字和静态画面,视频模型生成连续运动。产品数据、文档和账户状态通过结构化服务接入,三类模型共同组成可持续操作的界面。

Solaris 怎样训练 AI Agent

Solaris 还有一条不直接面向普通用户的用途:训练电脑操作 Agent。今天的 Agent 经常在固定网页上记住按钮位置,一旦酒店网站换了布局、弹窗遮住目标或信息在中途刷新,成功率就会快速下降。

Solaris 可以不断生成没见过的布局与交互,让 Agent 在同一任务上面对更多视觉变化。训练目标也能从“找到坐标并点击”转向“理解场景中的对象、动作和后果”。这与世界模型训练机器人的思路相似:先在可大量生成的环境里经历变化,再把能力迁移到真实系统。

OSWorld 2.0 展示了这类训练面对的任务规模。该基准包含 108 个长时真实工作流,每项任务由人完成的中位时长约 1.6 小时;在 500 步的二元完成指标上,论文报告的最佳系统只完成 20.6%。这类任务会不断切换页面、弹窗与中间状态,正适合用可持续生成的界面扩充训练变化。

在训练系统中,结构化服务记录任务目标、正确状态和反馈,Solaris 负责生成布局、对象和视觉变化。同一任务因此可以快速出现不同按钮位置、弹窗、遮挡和场景刷新,让 Agent 练习理解对象、动作与后果,而不是记住坐标。

Solaris 可能先改变哪些产品

研究页同时展示的两种竖屏界面形态 海洋探索界面 · 滑板游戏界面
视觉概念直接成为室内设计界面 同一个房间画面接受颜色、艺术品、家具和光照变化,展示品牌环境或产品场景如何成为可持续操作的生成界面。
Runway 在 New Kinds of Interfaces 部分展示了海洋探索、滑板游戏和室内设计三种生成界面形态。

从官方演示可以看到四类直接用法:

  • 交互原型。 一张概念图可以直接变成能点击、拖拽和持续变化的界面,用来展示设计方案和品牌空间。
  • 购物与配置。 服装、家具、材质和商品可以在同一个场景里直接组合,选择过程和视觉结果同时发生。
  • 教学与探索。 学习者可以移动对象、改变条件并观察连续反应,把一段说明变成可以操作的场景。
  • Agent 训练。 同一任务可以生成大量布局和过程变化,为电脑操作 Agent 提供持续变化的练习环境。

Solaris 把视频模型从内容生成器推进成实时界面引擎:它持续接收人的动作,现场生成可操作的下一帧。界面呈现由一次性编码结果变成连续生成过程,视频模型开始承担软件的显示层和一部分交互层。

来源
Introducing SolarisRunway·2026-08-31·查看主材料
本站说明
基于 Runway 2026 年 8 月 31 日研究发布与官方 X 演示整理