NeFut Logo NeFut
EN 管理员登录

[AI学术] 超越表面预测:网页世界模型的安全充分性

发布于:2026-11-03 22:00 最后更新:2026-11-05 00:45
#algorithm #Machine Learning #Artificial Intelligence

Web 世界模型越来越多地在行动前预测候选动作的后果,但仅仅预测出语义上合理的未来并不能保证安全决策的正确性。我们对十个冻结的开源模型生成的 3000 条预测进行人工匹配评估,发现 86.1% 被认为是语义上合理的。然而,部分模型表现出高度不对称的授权行为:错误安全执行率低但对可澄清的 ASK 场景召回率差,并且强烈倾向于 BLOCK。这促使我们提出 安全充分性 的概念,即预测接口是否能够保留并暴露区分 EXECUTED、ASK、BLOCK 三类动作所必需的策略决定信息。

为此我们构建了 SafeWebWorld 基准,覆盖五个网页安全领域,通过动作条件化的未来、策略决定证据以及策略条件化的决策来评估安全充分性。在受控的 Security-Aligned Supervised Fine-Tuning(SASFT)协议下,证据保留可以显著提升,但授权敏感的决策却出现恶化。为探究这种恶化是由于授权敏感分数结构的丢失还是决策读取的失败,我们提出了 潜在授权恢复(Latent Authorisation Recovery,LAR) 方法。

冻结分数重新校准显示出显著但依赖骨干网络的恢复,而配对恢复仅带来有限的额外提升。即便如此,族内评估和匹配授权评估仍然表现不佳,说明整体可恢复性并不等同于细粒度授权行为的稳健性。综上,单独的合理预测、证据保留或整体恢复都不足以确保可靠的授权判断。

点评:本文通过系统基准和恢复实验揭示了预测模型在安全决策中的盲点,提醒研究者在追求高质量预测的同时必须关注信息保留与授权判别的完整性。

原文链接: https://arxiv.org/abs/2610.40798

[h] 返回首页