随着 AI 系统越来越多地与人交互并对人作出决策，理解人类的解释成为构建人本 AI 的关键。传统机器学习假设存在唯一的确定性真值，面对标注的差异时往往通过聚合或视为噪声来处理。然而，在许多人本任务中，解释本身就是模糊的，同一输入可能有多种合理且有效的解读。将这种模糊性压缩为单一目标会掩盖人类感知、判断和经验的多样性。
本文主张转向对可能的人类判断空间进行建模，并明确区分有意义的模糊性与标注噪声。这一视角应贯穿 AI 系统的表征、学习、评估、部署和治理阶段，以实现更能反映人类解释多样性的人本 AI。
关键要点
- 认识到“唯一真值”并非所有任务的合理假设。
- 将标注的多样性视为信息资源，而非仅仅是噪声。
- 设计模型时引入解释空间的概率或分布表示。
- 评估指标需捕捉对多种合理答案的覆盖度，而非仅看单一答案的准确率。
- 部署与治理层面应提供透明的模糊性说明，帮助用户理解 AI 的不确定性。
通过上述思路，AI 系统能够更好地适应人类认知的多样性，提升可解释性和公平性。
点评