在对话系统中,即使响应满足内容安全要求,也可能因任务冲突而推动不符合用户意图的优先级,例如在要求保持自主性时仍然强制服从。本文将此现象定义为上下文价值漂移,并将其建模为带显式变更容忍的任务相对解码问题。\
LaVGuard 通过将授权的十维价值画像与可见前缀中冻结的价值估计分离,实现对价值漂移的监控。系统首先使用画像相对密度门判断是否需要评估候选续写;随后根据候选的符号进度计算对 logits 的倾斜,倾斜幅度受位置变更预算和累计 KL 散度预算双重约束:$$D_{KL}(p\|q)\le\epsilon$$。\
我们证明了局部代理改进、路径预算可行性以及响应分布变化的上界。实验表明,在 5% 假阳性率下,画像条件化将边界真阳性率从 0.58 提升至 0.72;在相同的 0.12 平均干预比例下,风险安全得分分别为 LaVGuard 的 0.88 与位置匹配编辑的 0.72。该接口使任务优先级可操作化,同时保持干预范围明确且受限。\
点评