引言
可解释的人工智能（XAI）在医疗保健中至关重要，但许多现有方法依赖于难以理解的技术解释。为了改善这一点，我们提出了视觉化学习框架（VL4ML），这是一种以人为中心的可解释性框架，通过直观的视觉表示而非数字或事后解释来传达模型预测和不确定性。
VL4ML框架
VL4ML通过编码诊断信息为颜色、图案和空间结构，使用户能够在无需了解模型内部或统计知识的情况下进行预测解读。我们在多个临床任务中展示了这一框架的应用，包括分类、回归、纵向预测和多模态分析。
实验评估
框架的有效性通过一项涉及158名参与者（39.2%为临床专业人士）的以人为中心的研究进行了评估。结果显示：
- 超过79%的参与者对视觉解释给予了积极评价。
- 84.0%的人认为视觉输出比数字输出更易记。
- 76.9%的人报告决策速度更快。
- 超过82%的人能够在没有统计培训的情况下成功感知视觉表示中的不确定性。
研究中未发现临床医生与非临床医生之间，或男性与女性参与者之间的显著差异，表明该框架具有广泛的可访问性。这些结果表明，VL4ML通过提供直观且普遍可解读的视觉解释，支持透明和可信的临床决策，补充了现有的XAI和不确定性量化方法。
博主点评： VL4ML框架的提出解决了传统XAI在医疗领域的可解释性不足问题，通过视觉化手段增强了临床决策的透明度与效率，展现出良好的应用前景，尤其是在需要快速反应和准确判断的医疗环境中。其以人为本的设计理念值得在更多领域推广。