NeFut Logo NeFut
EN 管理员登录

[AI学术] 颠覆信任观:日常人机对话中的用户监督重构为常规认知治理

发布于:2026-07-30 22:00 最后更新:2026-07-30 23:39
#AI #Machine Learning #Open Source

摘要

研究表明,人机交互中对系统输出的验证通常被视为依赖信任的行为,信任的更好校准应能减少这种验证行为。我们通过对153名频繁使用聊天机器人的用户进行混合方法调查,检验了这一假设。与传统预测相悖,我们发现信任与验证之间没有可检测的关联,这一结果在敏感性分析中保持稳健。

关键发现

三种用户行为——精炼、纠正和在自动化操作前的批准——得到广泛支持,并与用户满意度呈正相关。数据揭示了评估性监督(与信任无关,且与满意度弱关联)与干预性监督(与信任弱相关,且与满意度强相关)之间的实质性区别。中到大满意度控制差距表明,有效的任务结果并未带来明显的自主感。

质性发现

质性研究结果揭示了工具性心理模型、特定失败模式的怀疑和对认知基础设施的需求。我们将用户监督重构为与信任相兼容的常规认知治理,并提出了四个针对对话AI的支持性监督设计方向。

博主点评: 本研究挑战了传统信任模型在用户验证行为中的作用,强调了用户在与聊天机器人互动中的主动角色。通过重新定义用户监督为认知治理,未来的设计可以更好地满足用户的需求,从而提升人机互动的满意度。

原文链接: https://arxiv.org/abs/2607.24761

[h] 返回首页