因果效应估计关注在干预下结果的变化,是医学、经济学和公共政策的核心任务。先验数据拟合网络(PFN)通过在大量程序化生成的合成因果任务上训练,实现一次前向传播即可读取新问题的观测数据并输出干预效应估计,从而摊销该任务。模型的能力主要受合成训练先验的影响,当前的先验仍需人工设计,这成为 Do‑PFN 与 CausalPFN 公认的瓶颈。
大型语言模型(LLM)能够为特定领域“绘制”合理的因果图,因而 LLM 提炼的图可作为先验材料。我们探讨了注入此类图是否有益、收益来源以及何时有效。实践中往往依赖手工试错。为此我们提出了\emph{闭环先验选择框架},将先验注入视为在候选先验池上进行预算约束的优化。候选先验经过低成本的后训练,并通过以真实领域泛化能力为主的复合指标进行打分;得分最高的先验进入完整训练并配对统计验证。
在一个 7.34M 参数的 Do‑PFN 上,框架选出的最佳先验在主要评估域上实现了显著的 $2.75\times$ 增益,误差低于未注入的官方基线。相邻监控域的泛化也显著提升,且未出现能力退化。机制实验表明,收益取决于提炼图的语义内容,而非仅凭结构多样性(方向性证据)。有了该框架和可重复的规律,LLM 因果先验的使用不再是手工试错,而是可经验验证的选择问题。
点评