NeFut Logo NeFut
EN 管理员登录

[AI学术] JarvisGUI:面向跨设备 GUI 代理的动态任务组合

发布于:2026-09-11 22:00 最后更新:2026-09-12 06:35
#algorithm #AI #Open Source

真实世界的 GUI 使用常常跨越 Android、Windows、Ubuntu 等多种设备和平台,需要在不同环境之间传递中间结果、维护共享状态并实现协同操作。现有的 GUI 基准大多只评估单设备、静态定义的任务,因而无法检验代理在跨设备场景下的实际能力,导致对其真实可用性的评估过于乐观。\ \ JarvisGUI 通过将 GUI 任务抽象为输入‑输出转换,并在此基础上构建轻量级类型系统,实现了任务的自动组合与动态评估。类型系统描述每一步的输入类型、输出类型以及所需的设备环境,使得系统能够在运行时自动拼接多步、跨设备的工作流,而无需人工手工编排。\ \ 在实验中,JarvisGUI 在虚拟环境中同时部署 Android、Windows 与 Ubuntu 三个平台,统一评估开源 GUI 代理的跨设备表现。评测结果显示,当前最先进的开源代理在以下关键能力上仍显不足:\

原文链接: https://arxiv.org/abs/2609.10451

[h] 返回首页