在多个领域,AI驱动的系统越来越多地被部署,其中许多系统在核心功能和能力上呈现“黑箱”特性。这意味着,用户在输入和输出之间缺乏可见性,无法理解前者如何导致后者。
AI系统的自主性与其不透明性相结合,引发了关于系统可靠性、功能一致性及人类控制能力等众多担忧,甚至涉及这些系统的伦理和法律合规性。
本文论证,通过在部署和使用不透明的AI系统时,利用实践判断、德性和直觉,可以缓解许多担忧。我们展示了关注这些独特的人类能力为解决不透明性所带来的实际挑战与伦理、法律及社会规范之间架起了桥梁。
核心在于认识到许多积极的人类特质是不可量化的,因此,我们需要制定基于人文但不可量化价值的AI部署培训方案和指导方针。
文章特别关注军事领域,作为实践判断、德性和直觉在AI部署中的重要性示范,但这些论点适用于所有部署不透明和潜在自主系统的领域(需根据具体领域进行调整)。
博主点评: 本文强调了在AI系统不透明性日益增加的背景下,如何通过人类的道德判断和直觉来保证系统的伦理性和有效性。尤其是在军事领域,这种方法论的探讨为未来AI应用提供了重要的伦理视角,值得各行业借鉴。