摘要
人工智能的融入决策环境引入了一种之前未被充分理论化的代价：为了获取信息和计算帮助，人类逐渐放弃自主权。基于人类身份与自主权差距（HIAG）框架，本文提出了一种可测量的自主权让渡理论模型，认为这一过程是由认知带宽耗竭所驱动的累积过程。
该模型提出了三个相互作用的机制：
- AI助力的隐性代价，在此过程中，自主权逐渐转移且不被察觉；
- 让渡阈值，超越此阈值后，重新获得自主功能在认知和心理上变得困难；
- 恢复机制，建立设计义务及伦理责任，伴随人类有意重新掌控。
本文主张，人类重新进入决策环并非被动选项，而是一个需要有意恢复认知带宽的主动认知事件。AI系统的设计必须纳入结构化的重新进入路径，称之为恢复机制，这些机制在适当分配责任的同时，保护人类的能动性。
模型进一步预测了一种终极状态，称为偏好反转，在此状态下，功能上对AI助力的依赖并不被视为缺陷，而是一种偏好，从而将自主权的恢复从设计问题转变为文化和政治问题。本文对AI系统设计、治理框架和人类因素研究提出了启示。
博主点评： 本文深入探讨了人工智能对人类自主权的潜在影响，强调了设计中应考虑的伦理责任和人类能动性的重要性。随着AI技术的不断进步，这一理论模型为未来的人机交互提供了重要的思考框架。