NeFut Logo NeFut
EN 管理员登录

[AI学术] ADTGuard:面向大语言模型流式推理的自适应深度‑时间安全防护

发布于:2026-10-28 22:00 最后更新:2026-10-29 00:58
#AI #Machine Learning #LLM

大型语言模型(LLM)能够对多样化的用户请求生成流畅的回复,但在流式生成过程中,用户可能在完整内容生成前就接触到有害信息。现有的安全防护存在两大局限:一是仅在回复或块级边界进行事后审查,导致有害内容在验证前被泄露;二是即使实现了 token 级检测,仍采用粗粒度的回复级监督,无法明确有害内容的起始位置,而固定层的读取方式可能遗漏其他深度的安全信号。为克服这些问题,本文提出 ADTGuard,它在每个 token 输出前进行检查,逐步细化 token 级训练目标,并根据当前前缀自适应选择观察层。ADTGuard 通过深度‑时间安全动态(Depth‑Time Safety Dynamics,DTSD)在每个 token 上整合各层的安全证据,并利用这些证据指导风险在连续 token 之间的累积。为实现对前缀的层选择自适应,本文引入因果深度路由器(Causal Depth Router,CDR)。在仅有回复级标签的情况下,进一步设计风险起始目标细化(Risk‑Onset Target Refinement,RTR),逐步构建两大组件的 token 级训练目标。大量实验在多个安全基准上验证,ADTGuard 在流式检测性能上始终保持领先或持平于最先进的防护方案,仅使用 16M 可训练参数,并保持竞争性的每 token 延迟。

点评:ADTGuard 通过在深度和时间维度上同步建模安全信号,实现了对流式生成的细粒度、低延迟拦截,为实际部署提供了高效且可扩展的安全保障。

原文链接: https://arxiv.org/abs/2610.36574

[h] 返回首页