NeFut Logo NeFut
EN 管理员登录

[AI学术] 空控制必要但不足:评估科学发现与可解释性的接受守卫

发布于:2026-10-19 22:00 最后更新:2026-10-20 00:49
#algorithm #Machine Learning #Artificial Intelligence

本文研究自动化发现系统在提出科学解释并决定接受哪些解释时,单纯通过测试能否保证所声称的结论成立。我们定义了四种可执行的物理描述变换操作:(L1) 识别冗余、(L2) 粗粒化动力学、(L3) 结构转移、(L4) 从守恒不平衡中推断缺失量。随后在三种可解释性设置下进行评估:空接受(NAR)、正向接受(PAR)和后果一致性(CAR)。

一个把所有状态映射到零的简化模型能够完美预测自身未来,在129个公开混沌系统中通过闭合性测试的比例高达96%,但它并未保留任何动力学变化。独立的可观测量保持测试在整个过程中均予以拒绝。受控基准实验显示,组合标准能够全部接受24个真实简化模型并拒绝72个空模型。其余操作能够区分对称性与冗余、验证结构转移并排除伪造的守恒不平衡。

在语言模型和ESM‑2蛋白模型中,线性中心核对齐(CKA)在随机旋转对应关系后保持不变,而局部干预能够区分真实映射与空测试。稀疏自编码器实验中,富集方法拒绝了全部16个空案例,但独立消融实验支持了45%可评估的富集特征,而匹配对照仅为0.5%。

这些结果揭示了两个接受缺口:描述性测试可能接受科学上空洞的候选,而被接受的候选可能缺乏独立验证的后果。可靠的自动化发现必须同时评估测试接受的内容以及其所建立的科学后果。

点评

原文链接: https://arxiv.org/abs/2610.22445

[h] 返回首页