摘要
大型语言模型（LLMs）在多种人类活动中应用，旨在提高决策效果，同时减少人类反馈。在此过程中，它还希望将决策与人类的期望、偏好和需求对齐，并降低与AI非确定性相关的风险。然而，人类常常对AI建议过于依赖或不足依赖，而当前的AI系统在满足人类期望方面表现不佳。
为了解决这些挑战，我们提出了一种人机协作决策框架，旨在增强人类能力并使AI代理与人类的偏好和期望相一致。具体而言，本文：(a) 将协作决策任务形式化为AI代理与人类玩家之间的随机博弈；(b) 提出了人本反思架构（HCRA），该架构将人类校准模型与强化学习代理相结合，利用语言反馈进行迭代反思过程。
评估结果表明，HCRA提高了决策效果，并提供了高质量的建议。
博主点评： 本文提出的HCRA框架为人机协作决策提供了新视角，强调了人类反馈在AI系统中的重要性。这种方法不仅提升了决策质量，还为未来的AI应用提供了更为人性化的解决方案，值得进一步探索与应用。