知识卡片:RecreationWorld:面向混合计算机使用智能体的可扩展可验证环境
一句话结论
RecreationWorld 提出以“复刻运行中的参考应用”为核心的五平台框架,用运行参考作为隐藏行为测试的 oracle,为混合计算机使用智能体(hybrid CUAs)提供执行接地奖励、可扩展轨迹生成和 RecreationBench 评测;但材料显示最强模型 GPT-6 Astra 总体仅 58.1%,且只有 2.8% 任务通过全部程序化测试,说明交互与计算输出复刻仍是明显瓶颈。
事件概述或研究问题
计算机使用智能体(Computer-use agents, CUAs)此前主要沿两条线发展:图形界面交互,以及通过代码和命令行进行软件开发。材料指出,真实数字工作需要二者交错进行,而不是端到端堆叠。该研究关注 hybrid CUAs:智能体需自主决定何时探索界面、实现软件、运行并视觉验证自己的产物。
RecreationWorld 围绕 recreation 设定任务:给定一个正在运行的参考应用,智能体需要发现其行为,并在没有预设工作流的情况下构建一个忠实实现。
方法/产品要点
- 五平台框架:提供 Ubuntu、macOS、Windows、Android、Web 上的可复现环境。
- 统一 harness:同时提供原生 GUI 控制和编码工具。
- 运行参考作为 oracle:用于隐藏行为测试,并提供执行接地奖励(execution-grounded rewards)。
- 轨迹生成:材料称使用高质量开源应用扩展轨迹生成。
- 评测基准:提出 RecreationBench,包含 250 个跨领域、跨平台任务。
- 断言设计:基于参考的程序化与视觉断言覆盖多个交互深度的动作条件结果;每条断言先在参考上验证并由人工审查,之后冻结套件用于自动评分。
- 发布内容:摘要称发布 benchmark、environments、test suites;具体链接与许可证待核实。
主要结果或产业意义
- 用这些轨迹训练的模型在五个 out-of-distribution 编码与混合计算机使用基准上均有提升,并更频繁验证其渲染输出,材料称这提供了超出 recreation 的迁移证据。
- GPT-6 Astra 在总体指标上领先,达到 58.1%;但仅在 2.8% 的任务上通过所有程序化测试。
- 智能体复现静态界面结构比复现交互和计算输出更可靠。
- 生成的应用与参考相比仍更小、更单体化。
- 产业意义:把 hybrid CUA 的训练与评测从单一 GUI 操作或代码生成,推进到跨平台、可执行、可验证的混合工作流;同时结果显示,自动复刻真实软件行为仍远未可靠。
为什么重要
- 对 foundation-model 方向的 CUA 研究而言,本工作提供了可复现环境、执行接地奖励与 held-out benchmark,而不仅是模型或提示策略。
- 它把“探索界面—写代码—运行—视觉验证”的混合循环作为一等任务,契合真实数字工作往往需要 GUI 与代码工具交错的特点。
- 与已有卡片的关系:已有《重新思考本地计算机使用智能体的推理时扩展》聚焦推理时计算与失败模式;《VBVR-Pro》聚焦视觉推理的可验证套件;本条增量是把可验证环境、奖励和基准落到跨五平台的 hybrid CUA,并围绕“复刻运行中的参考应用”同时覆盖 GUI 控制与编码工具。
- 对图书/PPT/简报而言,可作为“CUA 从聊天式操作走向可验证混合工作流”的基础设施案例。
局限与不确定性
- 训练数据规模、模型架构、初始化方式、算力成本、训练超参等未在材料中给出,待核实。
- 五个 out-of-distribution 基准的具体名称与构成未在材料中列出,待核实。
- RecreationBench 的 250 个任务分布、评分阈值、冻结流程细节未完整给出,待核实。
- GPT-6 Astra 的具体模型规格、访问方式与评测配置未在材料中说明,待核实。
- 摘要称发布 benchmark、environments、test suites,但仓库地址、许可证、维护状态待核实。
- 当前信息来自 arXiv v1 摘要与元数据,尚无独立第三方复现结果;后续版本可能更新。
可用于图书/PPT/简报的角度
- 混合 CUA 定义:探索 GUI、实现软件、运行并视觉验证产物的自主循环。
- Recreation 任务范式:从运行中的参考发现行为并复刻,无规定工作流。
- 可验证环境设计:运行参考作为 oracle,隐藏行为测试,执行接地奖励。
- 五平台覆盖:Ubuntu、macOS、Windows、Android、Web。
- 评测发现:静态界面结构较易复刻,交互与计算输出较难;生成应用更小、更单体化。
- 关键数字对照:总体领先 58.1%,但全程序化测试通过率仅 2.8%。
- 与既有脉络:从推理时扩展、视觉推理验证,延伸到跨平台 hybrid CUA 的环境与评测基础设施。
原始材料
- 英文标题:RecreationWorld: Scalable and Verifiable Environments for Hybrid Computer-Use Agents
- 英文关键词(材料未提供独立关键词列表,以下据摘要与主题归纳):computer-use agents; hybrid CUAs; RecreationWorld; RecreationBench; verifiable environments; execution-grounded rewards; GUI control; coding tools; five-platform; recreation
- arXiv ID:2609.22000v1
- Authors:Shuai Bai, Jiayong Deng, Yikun Fu, Chang Gao, Xuhao Hu, Mianqiu Huang, Yizhen Jiang, Yuheng Jing, Dehui Kong, Keliang Li, Ning Li, Wanli Li, Dayiheng Liu, Dunjie Lu, Changwei Luo, Que Shen, Zheyuan Wang, Zijian Wang, Jie Wu, Gao Wu, Zhihui Xie, Rui Xie, Haiyang Xu, An Yang, Jiakang Yuan, Yanming Zhang, Jiajun Zhang, Xi Zhang, Zhenru Zhang, Zhuo Zhen, Mingkang Zhu, Bowen Zhou
- Published:2026-09-18T17:00:56Z
- Updated:2026-09-18T17:00:56Z
- Primary category:cs.CL
- Categories:cs.CL, cs.SE
- Abstract URL:https://arxiv.org/abs/2609.22000v1
- PDF URL:https://arxiv.org/pdf/2609.22000v1
- 来源材料:arXiv 标题、描述、摘要与元数据摘录
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
对 foundation-model 方向的 CUA 研究而言,本工作提供了可复现环境、执行接地奖励与 held-out benchmark,而不仅是模型或提示策略。 它把“探索界面—写代码—运行—视觉验证”的混合循环作为一等任务,契合真实数字工作往往需要 GUI 与代码工具交错的特点。 与已有卡片的关系:已有《重新思考本地计算机使用智能体的推理时扩展》聚…
相关主题
对应的教材知识点
教材知识点匹配尚未完成。