NeFut Logo NeFut
EN 管理员登录

[AI学术] 基于检索的异构证据融合多模态语言模型用于临床预后

发布于:2026-10-12 22:00 最后更新:2026-10-13 00:57
#AI #Machine Learning #optimization

我们提出了 PRISM(Population‑Retrieved Inference for Structured Multimodal Prognosis),一种面向临床预后的多模态语言模型。模型在特征层面采用数值化标记,将每个结构化测量转化为离散 token;对长期心电图(ECG)使用基于时间衰减的加权聚合,以捕获最新的生理信息;并构建了双模态人口记忆库,分别存储结构化特征和波形的嵌入向量。检索过程在表示空间进行:模型接收与当前患者最相似的训练队列记录的均值池化嵌入,而不将任何单独记录直接写入提示。

在 MDS‑ED 1,443 任务基准上,PRISM 在诊断、恶化、ICU 入院和死亡四项指标上分别取得 AUROC 86.2%、93.1%、91.8% 和 92.8%。这些结果使用了 96 小时的预入院窗口,而该窗口在已有基线中未被利用。仅使用基准窗口输入时,PRISM 获得 0.8895 的 AUROC,略低于 UniPACT(0.8937)但高于原 MDS‑ED(0.8889)。

对比实验显示:使用相同五路证据流且冻结编码器的紧凑融合模型 AUROC 为 0.7652,远低于 PRISM 的 0.9092。将数值化 EHR 编码替换为文本序列化会导致 AUROC 下降 3.66 点;去除预入院历史降低 1.97 点;将检索向量全部置零则下降 0.99 点。真实检索相较于随机邻居检索提升了 0.97 的宏平均分,但配对任务层的符号检验未达到显著性(p=0.067)。

在外部 MC‑MED 队列上进行监督微调后,PRISM 的 AUROC 达到 0.8611,优于本地训练的梯度提升模型(0.8227)和仅使用源模型的 PRISM(0.7841),验证了结构感知的多模态融合和监督外部适配的有效性。

点评

原文链接: https://arxiv.org/abs/2610.13510

[h] 返回首页