NeFut Logo NeFut
EN 管理员登录

[AI学术] 以理解为先的人工智能工程:目的、参考架构与架构模式

发布于:2026-11-11 22:00 最后更新:2026-11-12 00:51
#AI #Machine Learning #Architecture

AI 系统能够在不依赖人类理解的情况下产出可靠结果,但人类对系统的理解仍然在塑造后续工作、形成偏好、治理集体决策以及满足好奇心方面发挥重要作用。我们提出 以理解为先的 AI 工程,将面向特定目的的人类理解视为首要设计原则,贯穿需求、设计和运行全过程。\ \ 理解的目的被划分为四类互补的理性:反思性主体性、有效行动、集体治理和认识价值。基于此,构建了一套参考架构,将生产、验证、使用以及学习与探索通过共享记录相连,支持解释和参与两种方式实现理解。\ \ 在此基础上提出了五种候选架构模式,分别对应并行学习、解释模型、目标探索、受众特定视图以及分布式专长的需求。通过对两个假设使用场景的定性分析,展示了目的分类、参考架构和选定模式如何引导调查、参与和决策过程,同时保持操作控制。案例侧重于揭示设计后果和局限性,而非验证经验有效性。\ \ 该方法将人类理解明确为工程承诺,其正当性不必依赖于提升原始 AI 任务的表现。\ \ 点评

原文链接: https://arxiv.org/abs/2611.13022

[h] 返回首页