真实世界的 GUI 使用常常跨越 Android、Windows、Ubuntu 等多种设备和平台,需要在不同环境之间传递中间结果、维护共享状态并实现协同操作。现有的 GUI 基准大多只评估单设备、静态定义的任务,因而无法检验代理在跨设备场景下的实际能力,导致对其真实可用性的评估过于乐观。\ \ JarvisGUI 通过将 GUI 任务抽象为输入‑输出转换,并在此基础上构建轻量级类型系统,实现了任务的自动组合与动态评估。类型系统描述每一步的输入类型、输出类型以及所需的设备环境,使得系统能够在运行时自动拼接多步、跨设备的工作流,而无需人工手工编排。\ \ 在实验中,JarvisGUI 在虚拟环境中同时部署 Android、Windows 与 Ubuntu 三个平台,统一评估开源 GUI 代理的跨设备表现。评测结果显示,当前最先进的开源代理在以下关键能力上仍显不足:\
- 对状态转移的感知能力弱,无法正确在设备间共享和传递中间结果;\
- 缺乏跨平台上下文推理,导致在不同操作系统之间的指令解释出现错误;\
- 长时依赖管理不佳,难以完成需要多步协同的复杂工作流。\ 这些问题在单设备基准中几乎不可见,却是实际使用场景的核心挑战。\ \ 点评:JarvisGUI 为评估 GUI 代理的跨设备能力提供了系统化、可扩展的测试平台,揭示了当前技术在状态同步和跨平台推理方面的显著缺口,为后续研究指明了突破方向。