NeFut Logo NeFut
EN 管理员登录

[AI学术] 突破性框架:MA-SBI 提升模拟基础推断的准确性

发布于:2026-06-17 22:00 最后更新:2026-06-20 13:45
#algorithm #Machine Learning #optimization

摘要

模拟基础推断(SBI)在潜在参数的估计中常常受到模拟器误设的影响,即模拟与真实观测之间的差异,这种差异源于固有的建模简化。RoPE 作为最新的高效 SBI 方法,通过学习的真实与模拟观测之间的最优传输来应对这一问题,但它需要通常在 SBI 所需场景中不可获取的真实参数校准对。

相反,实践者通常可以获得非结构化的侧信息,如制度标签、指令文本和政策公告。我们提出了一种无校准的框架——误设感知模拟基础推断(MA-SBI),将这些侧信道信息转化为后验校正。一个学习的修正器将侧信道文本映射到观测空间的偏移,应用于任何预训练的摊销后验,且无需重新训练和真实参数。

我们的主要定理通过误设与侧信道之间的互信息界定了可实现的偏差降低,常数延伸至所有次高斯噪声,基于 Donsker-Varadhan 方法。在隐藏校准基准测试中,MA-SBI 仅利用文本便能与 10 次实验和两个基础模型的 oracle 后验相匹配(TOST 等价),而 RoPE 在获得更多数据的情况下则未能做到。这两种方法是互补的:当误设是结构性的并且可以通过参数对恢复时,RoPE 的表现更优,理论也支持这一点。

一个随机变体在真实的 COVID 和 OxCGRT 流行病学数据上提高了后验预测对数似然,并且在一个良好设定的认知科学语料库上正确保持了后验不变。

博主点评: MA-SBI 提供了一个创新的解决方案,通过利用侧信道信息来解决模型误设问题,展示了在缺乏真实参数的情况下,如何有效提升模拟基础推断的准确性,具有广泛的应用潜力。该框架的理论支持和实际效果都表明了其在不确定建模环境中的重要性。

原文链接: https://arxiv.org/abs/2606.16923

[h] 返回首页