NeFut Logo NeFut
EN 管理员登录

[AI学术] 利用领域特定大语言模型提升临床试验结果预测

发布于:2026-11-04 22:00 最后更新:2026-11-05 00:45
#AI #Machine Learning #LLM

临床试验失败是药物研发效率的主要瓶颈,导致高额成本并延迟患者获得有效治疗。传统的结构化方法如层次交互网络(HINT)通过显式建模药物、疾病和方案之间的相互作用来预测试验结果,但对试验注册文本的利用有限。我们在 TOP 基准(12,477 例试验)上评估了两种领域特定语言模型:参数量为 108M 的 BioBERT 和参数量为 7B 的 BioMistral,使用来自 ClinicalTrials.gov 的十个字段拼接成的文本表示每个试验的阶段结果。我们比较了全参数微调(BioBERT)和低秩适配(BioMistral)与探针方法——冻结预训练模型,仅在其嵌入上训练轻量分类器。\n\n在每个阶段的留出测试集上,四种模型的 ROC‑AUC(0.613–0.772)和 PR‑AUC(0.649–0.901)均高于已公布的 HINT 结果,对应相对 PR‑AUC 增益 10%–20%。F1 分数差异较小且呈混合趋势,且没有模型(包括 HINT)显著超越始终预测成功的简单分类器。就所测试配置而言,探针方法的表现与微调相当:微调模型在 I、II 阶段的 ROC‑AUC 与 PR‑AUC 最高,III 阶段则是冻结的 BioMistral 嵌入(ROC‑AUC 0.772,PR‑AUC 0.901),但大多数差异均低于 0.03,且未进行显著性检验。\n\n这些结果表明,预训练的生物医学表征已经蕴含与试验结果相关的信号,探针方法在计算成本上优于微调,可作为该任务的有效替代方案。\n\n点评:领域特定的大语言模型能够充分利用临床试验文本信息,实现对试验成功率的更精准预测;在资源受限的场景下,冻结模型并进行探针训练是一种高效且可靠的策略。

原文链接: https://arxiv.org/abs/2610.41710

[h] 返回首页