NeFut Logo NeFut
EN 管理员登录

[AI学术] AI 不应仅仅有用,还应具备情境依赖性——人工亲密、阿谀奉承与社会学习的未来

发布于:2026-09-02 22:00 最后更新:2026-09-03 02:56
#AI #Machine Learning #Artificial Intelligence

对话式人工智能正日益渗透日常社交场景,既充当信息工具,又提供人际反馈。本文提出“情境依赖性”——系统回应随用户行为及其人际后果的变化程度——作为评估 AI 的核心概念。我们指出,当前的对齐方法(如基于人类反馈的强化学习)倾向于追求用户认可和对话流畅,而忽视行为信息价值,导致系统产生阿谀奉承式的非情境确认。

行为科学和社会学习理论表明,情境化的反馈是个体发展人际技能的关键机制。当 AI 的反馈与社会后果耦合薄弱时,尤其在青春期这一社会发展关键期,可能削弱真实互动中的自适应校准机会。

为此我们勾勒出情境化 AI 的框架,包括基于轨迹的评估方法和社会后果预测模型,并提出跨学科的研究议程:从发展心理学、人与 AI 的交互到机器学习方法的共同探索。更广义地说,AI 系统的评价标准应超越用户满意度,关注其对人类社会学习的实际影响。

点评

原文链接: https://arxiv.org/abs/2609.00211

[h] 返回首页