NeFut Logo NeFut
EN 管理员登录

[AI学术] 自主智能代理量表:衡量AI系统自我导向行为的行为框架

发布于:2026-07-22 22:00 最后更新:2026-07-23 12:33
#algorithm #AI #Machine Learning

摘要

现有的AI测量框架量化了认知能力、任务自动化或灾难风险,但没有一个框架能够测量自主代理性:即系统自我导向行为的程度。一个系统可以在能力基准上达到饱和,但仍然完全反应,只有在被提示时才会行动,并在任务完成时停止所有活动。我们引入了自主代理量表(AAS),这是一个行为框架,通过七个代理维度对AI系统进行0-5分的评分:

  1. 认知自主性
  2. 时间持续性
  3. 环境代理性
  4. 社会代理性
  5. 创造性代理性
  6. 自我意识
  7. 目标形成

每个维度通过可证伪的阈值测试进行操作化,并在两个时间段内得分:一个是主动段,覆盖用户发起的活动;另一个是环境段,覆盖闲置期。环境级别4由闲置间隙测试限制,这是一个反事实标准(去除所有触发器并观察是否存在内部派生的活动),用以区分自我导向与计划规则遵循。我们将该量表应用于六个当代系统,包括任务代理(Claude Code、Manus、Hermes)、消费者助手(ChatGPT、Siri)和一个持久伴侣架构(Airi)。

这两个时间段的轮廓量化了单分数框架混淆的界限:任务代理的主动复合评分为2.3-2.4,而环境评分为0.6-1.9,所有闲置期行为均归因于用户配置的时间表;而持久伴侣架构在纵向评估中是唯一一个其闲置期行为在移除触发器后仍然存在的系统。我们讨论了局限性,包括单一评估者来源、开发者评估者在纵向评估中的偏见,以及在主动段中部分操作化的自我导向边界。

博主点评: 该框架为AI自主性评估提供了创新视角,强调了系统在无外部触发下的自我导向能力。通过量化不同维度,研究者能够更全面地理解AI的行为模式,促进未来更智能的系统开发。

原文链接: https://arxiv.org/abs/2607.17947

[h] 返回首页