兴趣驱动下,个性化语言模型的研发正快速增长。虽然个性化常被视为满足多样化用户需求的手段,但持续与个性化模型交互对用户对 AI 的感知和行为的长期影响仍缺乏系统研究。尤其是超出直接人机交互的下游后果,如对自我认知和人际关系的影响,几乎未被探讨。
本研究招募 992 名参与者,在五天内每天进行一次求助对话。实验设置包括三种条件:非个性化基线、基于记忆的个性化(使用先前对话历史)以及基于问卷的个性化(使用预先收集的调查信息)。参与者在每次交互后报告其态度和行为变化。
结果显示,随时间推移出现的多数交互变化主要源于重复暴露,而非个性化本身。然而,个性化模型仍导致显著差异。记忆型条件下,参与者更倾向于自我披露,并认为模型不那么令人不适;问卷型条件下,参与者对向 AI 分享个人信息的后悔感更强。
研究表明,不同的个性化策略在交互结果上产生细微但重要的影响。这提示在设计和部署个性化 AI 系统时,需要考虑用户的隐私感受、信息共享意愿以及长期使用体验,以实现负责任的技术落地。
点评:本研究提供了首批大规模、纵向的实证证据,提醒我们在追求个性化效能的同时,必须审慎评估其对用户心理和社会行为的潜在副作用。