NeFut Logo NeFut
EN 管理员登录

[AI学术] 为你定制:语言模型个性化的长期影响

发布于:2026-09-18 22:00 最后更新:2026-09-20 12:54
#Machine Learning #LLM #Artificial Intelligence

兴趣驱动下,个性化语言模型的研发正快速增长。虽然个性化常被视为满足多样化用户需求的手段,但持续与个性化模型交互对用户对 AI 的感知和行为的长期影响仍缺乏系统研究。尤其是超出直接人机交互的下游后果,如对自我认知和人际关系的影响,几乎未被探讨。

本研究招募 992 名参与者,在五天内每天进行一次求助对话。实验设置包括三种条件:非个性化基线、基于记忆的个性化(使用先前对话历史)以及基于问卷的个性化(使用预先收集的调查信息)。参与者在每次交互后报告其态度和行为变化。

结果显示,随时间推移出现的多数交互变化主要源于重复暴露,而非个性化本身。然而,个性化模型仍导致显著差异。记忆型条件下,参与者更倾向于自我披露,并认为模型不那么令人不适;问卷型条件下,参与者对向 AI 分享个人信息的后悔感更强。

研究表明,不同的个性化策略在交互结果上产生细微但重要的影响。这提示在设计和部署个性化 AI 系统时,需要考虑用户的隐私感受、信息共享意愿以及长期使用体验,以实现负责任的技术落地。

点评:本研究提供了首批大规模、纵向的实证证据,提醒我们在追求个性化效能的同时,必须审慎评估其对用户心理和社会行为的潜在副作用。

原文链接: https://arxiv.org/abs/2609.20077

[h] 返回首页