NeFut Logo NeFut
EN 管理员登录

[AI学术] Profile-DP:面向个性化 LLM 推理的用户可控画像发布差分隐私

发布于:2026-10-23 22:00 最后更新:2026-10-25 13:04
#AI #Machine Learning #LLM

个性化大语言模型(LLM)越来越多地使用画像条件推理,即将公开请求与用户特定的丰富事实配对。这种方式会泄露用户画像本身以及用户的显式共享偏好。为此我们提出 Profile‑DP,这是一种面向策略感知的本地差分隐私框架,专门用于个性化 LLM 推理中的用户画像发布。Profile‑DP 在将公开指令、画像模式和已授权事实视为公开侧信息的前提下,提供对用户隐藏事实的可证明隐私上界。通过先生成一个私有化的画像,再与公开指令组合生成答案,框架将形式化的隐私保证与下游模型行为解耦。

我们实现了两种满足 Profile‑DP 的有限域机制:DP‑SLOT 对受保护属性独立扰动;DP‑BLOCK 则利用公开的语义决策协同发布相关属性,并联合采样。两者均通过一个正向的公开兼容先验将属性关联起来,同时保持整体画像的隐私界限。

在 PEEP 基准上,DP‑BLOCK 在所有 13 种结构化预算下的效用复合得分最高,并在 26 种格式‑预算设置中有 18 种最接近理想的隐私‑效用点。直接测量显示两者互补:DP‑BLOCK 泄露更少信息,而 DP‑SLOT 能保留更多已授权事实。这些结果表明,策略感知的画像发布可以成为研究隐私与个性化的实用基础。

点评

原文链接: https://arxiv.org/abs/2610.27213

[h] 返回首页