随着编码代理在真实环境中自主完成任务的比例提升,判断其风险处理是否必要变得尤为关键。现有研究往往从不同视角评估相关行为,却缺乏统一的框架。为填补这一空白,我们提出 ParanoiaEval——首个统一评估编码代理风险处理能力的基准。
ParanoiaEval 基于软件工程风险管理中成熟的规避‑转移‑缓解‑接受(Avoidance‑Transfer‑Mitigation‑Acceptance)框架,将其四种基本处理方式在编码代理场景中具体化,并构建了 200 组证据受控的仓库级任务对,每对仅在处理定义的证据上存在差异。
我们进一步设计了专门的指标,用于衡量风险处理违规行为以及对证据的响应程度,并采用经人工校准的代理评审者(agentic judge)实现可靠评估。
在 8 种具代表性的模型上进行的大规模实验以及后续的人类研究表明: 1)即使提供了明确证据,非必要的风险处理仍出现在 11.2%‑58.7% 的运行中,且不同代理配置之间差异显著; 2)更强的任务能力并不保证更恰当的风险处理,违规的风险处理会显著降低开发者体验,表明风险处理是独立的能力维度; 3)代理的行为模式与人类风险管理研究结果保持一致,说明人类实践的知识可用于诊断和提升该能力。
点评:ParanoiaEval 为系统化评估编码代理的风险处理提供了可复现的基准,揭示了当前模型在防御性工作上的盲点,为后续模型改进指明了方向。