ComputerRL——AutoGLM 电脑端(Web)Agent 强化学习
背景
AutoGLM 不只做手机——论文明确声明的定位是"Foundation Agents for GUIs",GUI 包括 Android 手机 和 Web 浏览器 两大场景。VAB-WebArena-Lite 评测集上 55.2% 的成功率(二次尝试 59.1%)和 OpenTable 上 96.2% 的成功率背后,是 ComputerRL 的训练方法在支撑。
ComputerRL 是什么
ComputerRL 是 AutoGLM 团队为电脑端 / Web 浏览器场景设计的端到端在线强化学习框架。和 MobileRL 对应手机场景不同,ComputerRL 聚焦桌面浏览器的操作:点击、滚动、输入、标签切换、窗口管理。
训练环境
- 环境:浏览器自动化框架(类似 Playwright 的能力)
- 任务:WebArena、OpenTable 等公开评测集 + 自定义任务
- 奖励信号:任务完成 = +1,错误操作 / 死循环 = -0.1~-0.5
论文与发布
ComputerRL 论文于 2025 年 8 月发布在 arXiv:
- arXiv:2508.14040
- 作者:Hanyu Lai, Xiao Liu, Yanxiao Zhao, Han Xu, ..., Jie Tang(智谱 + 清华)
和浏览器插件 AutoGLM Web 的关系
ComputerRL 训练出来的能力是 AutoGLM Web(智谱清言浏览器插件)的技术底座。插件能在浏览器里执行"全自动上网"、多链接总结、写作助手等功能,背后的 Agent 行为策略就是 ComputerRL 强化学习出来的。
和 MobileRL / AgentRL 的对比
| 方面 | MobileRL | ComputerRL | AgentRL |
|---|---|---|---|
| 聚焦场景 | 手机 App GUI | 桌面浏览器 GUI | 多轮多任务通用 |
| 发布时间 | 2025.09 | 2025.08 | 2025.10 |
| 对应 AutoGLM 产品 | Open-AutoGLM Phone Agent | AutoGLM Web 浏览器插件 | 通用 Agent 框架 |
为什么分三篇
GUI 控制不是单一问题——手机和浏览器的界面交互模式差异很大(竖屏 vs 横屏、App vs Tab 管理、触摸 vs 鼠标)。AutoGLM 团队选择分别在三个垂直场景深入探索,然后用 AgentRL 抽象出通用框架。