NeFut Logo NeFut
EN 管理员登录

[AI学术] GUI 代理何时应停止?冲突感知终止的研究

发布于:2026-09-04 22:00 最后更新:2026-09-05 12:23
#AI #Machine Learning #GPT

图形用户界面(GUI)代理能够根据自然语言指令在界面上执行操作,但真实用户常会因疏忽给出不可行的指令。可靠的代理不仅要会行动,还要懂得何时不行动。为此,本文提出 CONFLICTGUI 基准,涵盖指令内部冲突和指令‑GUI 上下文冲突两类情形,用于评估冲突感知终止能力。实验显示,现有代理在可行任务上表现良好,却在冲突指令下出现执行偏向的过度遵从,即盲目继续执行。为缓解该问题,本文设计 CONFLICTGUARD 推理时框架,将可行性意识与动作生成对齐。框架包括(1)可行性验证协议:在执行前让代理检查指令逻辑与 GUI 证据;(2)条件动作调制机制:在检测到冲突时将行为从盲目执行转向终止。我们在五种主流 GUI 代理上进行实验,CONFLICTGUARD 在冲突任务成功率上提升显著,同时保持普通任务性能不降。结果表明,轻量级的推理时干预即可显著提升代理识别不适当执行场景并避免不必要操作的能力。

点评

原文链接: https://arxiv.org/abs/2609.03438

[h] 返回首页