NeFut Logo NeFut
EN 管理员登录

[AI学术] 反事实邻域风险场:基于证据的视觉语言模型选择性安全

发布于:2026-10-16 22:00 最后更新:2026-10-18 08:05
#AI #Machine Learning #Neural

表示式安全防御通常通过学习将有害输入与良性输入分离,但仅有分离并不能说明风险分数的含义,也无法判断何时可信。我们提出反事实邻域风险场(CNRF),它是一种基于证据的选择性安全框架。CNRF 首先在相同上下文下构造良性‑有害的反事实配对,利用它们的表示差异定义与模型能力相关的风险方向。随后,CNRF 将邻域支持度与风险独立估计,避免将陌生性误认为有害性,从而实现对可疑请求的选择性干预,而不是全盘拒绝。系统提供受害者自适应接口,能够兼容不同 VLM 架构的安全观测,并将被选中的请求送至同一受害者的响应审查模块,该模块要么直接放行可接受的候选,要么生成受限的替代输出以降低有害能力。实验在三种视觉语言模型和五类多模态 jailbreak 场景下进行,CNRF 的宏观防御成功率达到 86.06%‑89.30%,同时保持了显著的良性任务效用。受控实验表明,查询匹配的参考以及保持上下文方向对应关系能够在低误报区间显著提升风险排序效果。CNRF 因此将表示式安全的焦点从学习有害边界转向构建可用于选择性风险决策的证据。

点评

原文链接: https://arxiv.org/abs/2610.20679

[h] 返回首页