在解释性人工智能（XAI）技术日益增多的背景下，从特征归因到稀疏自编码器，解释性却很少能真正影响现实工作流。实际上，这些解释往往被生成后就被丢弃，未能引导出有意义的行动。这一现象反映了基础性缺陷：研究尚未建立将解释整合到端到端人机交互系统的方法论。
本文论述了机器学习社区必须从临时的XAI方法转向解决基础性和结构性挑战，这包括不清晰的问题表述、未明确的评估目标，以及缺乏以解释为驱动的反馈管道。通过分析最近的ICML、NeurIPS和ICLR论文以及对XAI从业者的调查，我们揭示了限制累积进展的反复出现的问题。
最后，我们提出了一个实用的检查清单，旨在推动XAI向更加以人为本、以行动为导向的范式转变。通过强调基础清晰性而非临时方法的开发，我们希望为将解释整合到可操作的反馈驱动AI系统中提供一条路线图。
博主点评： 本文强调了解释性人工智能的基础性问题，指出了当前XAI方法的局限性。推动XAI向更加结构化和以人为本的方向发展，能够有效提高其在实际应用中的价值与影响力。希望更多研究者关注这一重要领域，推动理论与实践的结合。