摘要
人工智能的快速进展加剧了对自动化的追求：尽可能用算法替代人类参与。隐含在这一追求中的假设是，人类之所以仍在其中，是因为当前的 AI 系统尚不够强大。本文对此假设提出挑战。我们不再询问自动化能够延伸多远，而是探讨其概念界限，并主张即使在高度能力的 AI 系统下，人类参与也可能持久存在，原因有三：
- 技术或互补性基础：人类提供 AI 无法获得的能力或视角。
- 规范或发展基础：参与本身对人类的能动性或学习是有价值的。
- 涌现基础：在某些活动中，目标并非事先完全明确，而是通过互动逐步显现。在这些情况下，人类参与不仅仅是改善执行的手段，而是目标生成的组成部分。
因此，人类与 AI 的共同构建被理解为人类与 AI 系统共同产生结果的过程，这并不是对不完美 AI 的临时响应，而是那些目标通过参与而涌现的活动的持久特征。这一视角对于自动化的界限，以及未来 AI 系统的设计、评估和伦理具有重要意义。
博主点评： 该论文深刻探讨了人类如何在自动化浪潮中依然保持参与的重要性，强调了人类与 AI 之间的协同关系，挑战了传统的自动化观点。未来的 AI 系统设计必须充分考虑这种人机共生的模式，以提升技术的有效性和人类的参与感。