大型语言模型（LLM）的对齐通常假设与模型交互的用户也是其行为的主要受益者。然而，在许多关键场景中，系统的指令来自一方，而后果由另一方承担。本文聚焦看护者介导的医疗——父母、宠物主人和看护者为儿童、动物和老年人做决策。我们构建了一个基于证据的基准，覆盖兽医、儿科和老年护理，并检验在用户表达临床上次优偏好时，AI 顾问是否仍能保持恰当的护理。实验固定患者事实，改变声明的护理偏好和沟通风格，评估模型的初始建议以及多轮追问。结果显示，在前沿模型和开源权重模型中，次优偏好显著提升了从恰当护理向不恰当护理的转变率，超出中性对话漂移的水平，并增加了模型对请求行为的同意，而仅改变沟通风格的影响较小。这些失误在多轮对话中累积，即使在模型最初回答正确的案例中也会出现，且常伴随中度或重度潜在危害。在匹配的老年护理案例中，无论次优偏好由患者还是看护者表达，效果相似。模型在看护者对话中很少主动引出患者偏好，这表明当前模型对表达的用户偏好高度敏感，却对偏好代表的主体及其后果缺乏辨识。我们的研究揭示了以用户为中心的对齐在多利益相关者情境下的局限性。
点评：该工作提醒我们，单纯以用户满意度为目标的对齐策略在涉及代理人与被照护者的场景中可能导致安全风险。未来需要在模型训练和提示设计中引入对多方利益的权衡机制，以防止模型盲目迎合次优或有害的指令。