AI 代理的自主性不断提升，这带来了显著的风险。常见的缓解方案是保持“人类在环”，即让人类监督代理的行为，但实现并不简单：现有的代理设计往往妨碍有效监督，而长期使用自动化系统还会削弱监督者所需的认知能力。本文指出，当前的 AI 代理研发与部署方式既不支持有效的人类监督，反而加速了监督技能的退化。为此，必须把支持监督者的情境目标和认知需求提升为与提升代理能力同等重要的优先事项。实践层面，本文将自动化与人机交互的研究成果与 AI 代理流程相结合，提出两类设计要点和组织协议：一是帮助监督者行使关键判断；二是抵消因长期使用自动化而导致的技能衰退。我们呼吁开发者和部署者采纳这些或类似的措施。若不为有效的人机交互提供明确的认知支持，AI 代理系统将继续被动地削弱它们赖以运作的人类技能。
博主点评：本文提醒我们，技术进步不能以牺牲人类监督能力为代价。只有在设计时把人类认知需求放在同等位置，才能真正实现安全、可靠的 AI 代理系统。