摘要
基础模型正在重塑计算病理学，但其能力仍受限于预训练目标、数据来源和空间尺度，导致各类专业知识在不同的模型架构中分散。本文介绍了ALICE，一个通过多阶段聚合蒸馏训练的统一基础模型，逐步将八个只包含视觉、视觉-语言及切片级教师模型的知识提炼为单一骨干网络的专用模块。
ALICE在24,985,184张切片级病理图像和155,604张高分辨率图像上进行了预训练，并在21个任务场景、96个下游任务和48个数据源上进行了评估，涵盖了感兴趣区域的组织分析、视觉-语言多模态评估和全切片临床评估。在这三种评估设置中，ALICE在任务匹配的病理基础模型中均取得了最佳的平均排名。这些结果表明，聚合蒸馏能够将来自专业模型的互补能力整合到一个统一的骨干网络中，广泛应用于计算病理学。
该模型可在 GitHub 上获取。
博主点评： ALICE模型的提出标志着计算病理学领域的一个重要进展，通过聚合蒸馏技术有效整合了多种专业模型的能力，这为未来的病理分析提供了更强大的工具。同时，模型的开源也为研究者提供了便利，推动了社区的进一步发展。