在真实临床环境中部署医学视觉问答(MedVQA)系统需要能够适应新临床任务而不忘记先前获得知识的模型。持续学习(CL)为此提供了一个实用框架。尽管医学视觉语言模型迅速发展,但在异构MedVQA任务上训练这些模型时,CL方法的表现仍未得到充分探索。本文对MedVQA在多样化临床目标下的CL进行了系统评估,包括分类、多标签分类、检测、细胞计数和报告生成。
具体来说,我们探讨了以下几个方面:(1) 现有CL方法在减轻灾难性遗忘方面的能力;(2) 任务顺序对性能保留和遗忘的影响,分析不同任务序列的敏感性;(3) 随着新任务的学习,低秩适应参数的演变,揭示在不同CL方法下的权重漂移模式。
我们的研究发现,现有的CL方法在不同目标和监督格式的任务交织时,难以维持稳定性与可塑性之间的平衡。代码和完整实验设置将公开发布。
博主点评: 本文深入探讨了持续学习在医学视觉问答任务中的应用,揭示了当前方法面临的挑战。尤其是任务顺序对模型性能的影响,提示我们在设计CL系统时需要更为细致的策略,以应对实际应用中的复杂性。该研究的结果为未来的医学智能系统提供了重要的参考依据。