摘要
人类在动态互动中不断协调，通常通过隐含且难以量化的社会规范作为交互代理之间的共享默契期望。随着大型语言模型（LLMs）等AI代理逐渐融入日常生活，它们越来越多地参与这些互动，并重塑社会交互结构。然而，它们在与人类有效、体贴和自然的协调上常常表现不佳。我们假设，这一差距源于现有方法将模型行为与人类示范对齐，但未能明确量化生成此类行为的潜在规范。
我们选择行人-车辆互动作为代表性动态互动，并开发了一个简化的实验平台，以捕捉其关键交互特征。从通过该平台收集的3456个动态人类互动中，我们识别出三条人类社会规范的原则：结果可预测性、价值对齐和优势意识。将这些原则融入AI代理显著改善了人机协调。在与人类的闭环互动任务中，基于社会规范的LLM的总得分几乎是基线策略的四倍，并且比人类间的互动高出43%。这些发现表明，将隐性社会规范形式化为明确且可量化的原则，可以使AI代理在动态互动中实现互利协调，支持它们更自然地融入人类社会。
博主点评： 本文深入探讨了社会规范在动态人机互动中的重要性，提出了明确的量化原则，显著提升了AI的协调能力。这为未来AI的社会整合提供了重要的理论基础和实践指导，值得关注和研究。