最近的研究显著提升了抽象意义表示(AMR)解析器的性能,但何时可以信任其输出仍未得到系统研究。本文首次在黑盒设置下利用 top‑k beam‑search 候选进行不确定性估计。我们通过计算候选之间的成对相似度来量化不确定性,并使用预测拒绝率(Prediction Rejection Ratio, PRR)进行评估。
实验首先描绘了解析性能与不确定性之间的关系,发现不确定性高的句子往往对应较低的 Smatch 分数。随后检验了 beam 候选分布的可靠性,结果表明候选集合的多样性能够反映解析器的置信度。进一步分析了不同评估指标(如 Smatch、S2S、BLEU)对不确定性评估的影响,发现指标选择会改变不确定性与性能的相关性。最后比较了多种主流 AMR 解析器,识别出在性能与可靠性之间取得最佳平衡的模型。整体实验表明,不确定性估计可以作为评估 AMR 解析器的补充维度,为下游任务的安全使用提供参考。
点评:不确定性估计为 AMR 解析的可信度评估提供了可操作的工具,尤其在黑盒场景下具有实际价值。