NeFut Logo NeFut
EN 管理员登录

[AI学术] AI 病死率与死亡率:临床 AI 失效审查框架

发布于:2026-09-02 22:00 最后更新:2026-09-03 02:56
#AI #Machine Learning #Artificial Intelligence

临床人工智能正日益渗透到真实的医疗工作中,但现有的安全机制难以对单个 AI 相关错误或险些失误进行重建和学习。整体模型监控能够发现性能变化,传统的患者安全报告能够捕获不良事件,却都不适合解释风险在 AI 系统、临床医生、工作流程和机构控制之间的交互中如何产生。我们提出 AI 病死率与死亡率(AI M&M)框架,它是一种结构化、无责的案例审查方法,专注于临床 AI 失效。框架包括标准化的案例收集、证据保存、调查员层面的重建、工具在环路中的归因以及纠正措施追踪。每一起事件在四个相互关联的维度上进行分类:触发因素、失效机制、临床路径、纠正行动。这样可以把暴露漏洞的条件、产生风险的过程、对护理的影响以及分配的整改措施分离开来。我们用五例门诊药物和临床决策支持案例演示了该框架;两位临床审查员独立完成四个分类轴的标注,全部 20 项轴级分类达成一致。AI M&M 旨在补充而非取代模型监控、患者安全报告和监管监督,通过把单个 AI‑工作流失效转化为可操作的机构学习。未来需要在不同机构、AI 系统和临床场景中进行前瞻性评估。

点评:本框架提供了系统化、无责的临床 AI 失效审查方法,有助于机构在实际使用中快速定位风险根源并落实改进。

原文链接: https://arxiv.org/abs/2609.00076

[h] 返回首页