摘要
联邦学习(FL)有潜力推动医疗平等,使不同机构能够在数据有限的情况下协作训练深度学习(DL)模型。然而,FL的高资源需求常常使得计算基础设施有限的中心被排除在外,进一步加剧了现有的医疗不平等。为了解决这个问题,我们提出了一种面向绿色AI的自适应层冻结策略,旨在降低能耗和计算负载,同时保持模型性能。
我们使用不同的联邦架构进行了磁共振成像(MRI)到计算机断层扫描(CT)转换的测试。所提出的自适应策略通过监控编码器权重在每轮之间的相对差异,选择性地冻结编码器权重,从而优化联邦训练。基于耐心机制的设计确保只有在更新保持一致的最小值时才会进行冻结。
我们使用CodeCarbon库跟踪了联邦的能耗和CO2等效排放。与相应的非冻结对照组相比,我们的方法将训练时间、总能耗和CO2等效排放减少了多达23%。同时,MRI到CT的转换性能保持稳定,平均绝对误差(MAE)仅有小幅波动。值得注意的是,在评估的五种架构中,三种没有观察到统计显著差异,而两种架构则表现出统计显著的改善。我们的工作与促进满足临床需求的DL框架的研究范式相一致,同时确保气候、社会和经济的可持续性。这为新型FL评估框架奠定了基础,推动了AI驱动医疗中的隐私、公平和更广泛的正义。
博主点评: 这项研究通过引入自适应层冻结技术,成功地在节能与性能之间找到了平衡,为联邦学习在医疗领域的应用指明了方向。随着计算需求的增加,如何在保持性能的同时降低能耗,将是未来研究的重要议题。此成果不仅有助于解决医疗资源不均的问题,也为绿色AI的发展提供了新的思路。