NeFut Logo NeFut
EN 管理员登录

[AI学术] AI 中出现性的主张应基于信息分解

发布于:2026-10-22 22:00 最后更新:2026-10-25 13:04
#algorithm #AI #Machine Learning

当语言模型展现出单个组件无法解释的能力,或多智能体系统整体表现优于各自单独运行时,研究者常称之为“协同”或“出现”。这些描述往往缺乏统一的理论支撑,导致难以比较或检验。我们提出,信息分解可以作为统一的形式框架,对 AI 系统的协同效应进行可操作的评估。信息分解将信息区分为三类:来自单个组件的唯一信息、跨组件共享的冗余信息,以及只有多个部分共同作用才能获取的协同信息。依据该框架,只有当系统行为对任务相关结果携带协同信息时,才可视为出现。我们将该视角分别应用于注意力头、自治代理以及人机协作团队,展示其在不同层次和基质上组织已有认识的能力,并提出若干跨层次的猜想,这些在各自孤立的研究领域中往往被忽视。

点评:信息分解为评估 AI 出现性提供了可量化、可 falsifiable 的标准,有望推动跨学科的系统性研究。

原文链接: https://arxiv.org/abs/2610.28479

[h] 返回首页