NeFut Logo NeFut
EN 管理员登录

[AI学术] PRIME:面向可验证证据驱动推理的 LLM 代理

发布于:2026-10-19 22:00 最后更新:2026-10-20 00:49
#AI #Machine Learning #LLM

LLM 代理常用于核对记录是否满足组织的合规要求,例如判断漏洞报告是否可进入调查阶段。实际需求往往提供多条可行路径:可以通过策展人审阅的建议书给出严重性评级,也可以提供已发布的 advisory 链接。传统代理的失误主要表现为两类:一是即使必需的检查未通过仍错误接受报告;二是仅因未尝试其他可行路径而给出较弱的结论,从而错失更强的判断。

为了解决上述问题,我们提出 PRIME(Precommitted Rules for Inference from Minimal Evidence)。在执行检查前,PRIME 会预先固定 证据路径,即每一种可能的结论必须由哪些检查结果来支撑。检查过程由独立的记录程序保存,每当有检查结果产生时,程序会对照预定义的证据路径,拒绝所有未被充分证据支撑的结论,并在必要时提示代理执行能够提升结论强度的检查,甚至自行触发这些检查。

PRIME 的核心机制包括:

在满足以下前提时,PRIME 能保证在预算允许的情况下得到最强的支持结论:

  1. 需求描述完整且准确;
  2. 检查实现位置已知且可直接调用;
  3. 预算足以覆盖所有必要的检查。

实验评估使用了 480 条公开记录任务。普通代理在这些任务中有 26.7% 的情况下给出了未经证据支撑的结论,而 PRIME 在相同任务中未出现任何未经授权的结论。通过 PRIME 的指引和额外检查,已证据支撑结论的平均得分从 30.1(仅拒绝)提升至 59.2(满分 100),显示出显著的可靠性提升。

点评

原文链接: https://arxiv.org/abs/2610.22426

[h] 返回首页