NeFut Logo NeFut
EN 管理员登录

[AI学术] 在线证据包含预测:针对不同查询的文本跨度

发布于:2026-11-03 22:00 最后更新:2026-11-05 00:45
#AI #Machine Learning #optimization

证据驱动的 NLP 系统常需顺序验证嵌套文本区域,验证一个区域会限制其他区域的选择。我们将此过程形式化为在线证据包含预测(OECP),即在实际验证之前对每个候选跨度进行预测,并且每个查询最多被询问一次。跨度包含关系对应于三角形的二维乘积序,因而 OECP 等价于不同查询下的在线等距回归。针对多目标情况,最坏情况的后悔上界接近线性,记为 $\widetilde{\Theta}(m_{\mathrm{eff}})$,其中 $m_{\mathrm{eff}}$ 为端点秩压缩得到的有效规模;而在单一固定目标(如标准问答)下,可构造多项式时间学习器,实现最优的 $\Theta(\log m_{\mathrm{eff}})$ 后悔,并在真实的 Natural Questions 任务上进行实验。实验表明,在 Natural Questions 数据集上,利用包含关系可显著提升推理收益,且在未解决的候选上仍有小幅学习增益,且该现象在两种主干模型和 DPR 层次结构上均可复现。我们进一步提出期望搜索空间缩减(ESR)指标,将预测概率转化为决策,在 SciFact、ERASER 以及 DPR 层次结构上实现更少的验证调用。对比四种最新的外部选择器,在调用预算受限的情况下,ESR 在 DPR 层次结构上表现更佳,并在固定阅读器上提升了 F1,超过了学习型和生成式贪婪调度的效果。点评

原文链接: https://arxiv.org/abs/2610.41384

[h] 返回首页