本文审计了在稀有疾病诊断任务中使用的增强型大型语言模型(LLM)系统的评估伪影和潜在的数据泄漏。我们基于超过 60,000 例来自公共和独立临床队列的病例,重建了最先进的 agentic 框架,并系统量化了不同 AI 范式下的评估偏差。实验表明,候选空间污染会人为提升性能:在传统 one‑vs‑rest 评估下,跨数据集的 Recall@1 平均为 54.3%,而在严格的跨数据集隔离后下降至 40.3%,对应 Hedges' g = 0.94。监督分类器同样出现空间过拟合,内部验证的准确率为 42.9%,在外部队列中跌至 16.7%,Cohen's d = 2.01。进一步分析发现,LLM 常利用临床叙述中的治疗线索进行逆向推断,而基础知识库的时间错位导致性能波动。基于这些发现,我们提出了一套严格的数据隔离与标准化基准的评估框架,以确保未来稀有疾病诊断 AI 的真实临床鲁棒性。
点评:该审计揭示了当前评估流程中普遍存在的泄漏风险,提醒研究者在构建诊断系统时必须采用跨数据集隔离和时间戳对齐等防护措施,否则报告的高精度可能仅是评估伪影的产物。