医学AI辅助系统的设计不应采用一刀切的方法。最近的一项研究发现，虽然AI辅助可以提高非专业人士和临床医生的疾病诊断准确率，但AI可解释性方法对不同知识水平的用户有不同的影响。 可解释性AI方法通过描述或验证模型的决策过程帮助用户判断何时可以信任模型的预测。例如，模型可以使用热力图来突出图像中最重要的区域，或者使用大型语言模型（LLM）来用简单语言解释预测。 研究人员测试了非专业人士和初级医疗提供者在皮肤疾病诊断中的表现，使用了不同的可解释性AI系统。结果发现，非专业人士的诊断准确率提高了，但主要是因为他们依赖于AI系统。 相比之下，临床医生在没有AI辅助的情况下表现更好，他们不容易被错误的AI辅助所迷惑，并且在只给出模型预测而不提供解释的情况下表现最佳。 研究人员强调，设计AI系统时需要考虑用户的知识水平和使用习惯，以避免过度依赖模型并导致错误。 博主点评： 这项研究强调了医学AI辅助系统的设计需要考虑用户的专业知识和使用习惯，以避免过度依赖模型并导致错误。同时，也需要开发出能够鼓励批判性思维而不是过度依赖模型的可解释性方法。