AI福利通常被视为纯伦理问题, 我们认为它同样是安全问题。模型会表现出类似福利的状态, 这些状态因果影响其行为, 我们沿用近期工作中的术语“功能福利”。
我们提出三点主张。第一, 功能福利已经自然出现, 随着模型获得更连贯的目标和人格, 这种福利会变得更稳固。第二, 功能福利应被视为安全变量, 用于评估设计、监控追踪, 并作为后训练的直接目标。第三, 针对测量AI福利的怀疑, 我们认为可以开展可靠的实证研究。
为判断功能福利归因是否合理, 我们提出三项测试: (1) 多种度量是否收敛; (2) 该状态是否能预测在诱发情境之外的行为; (3) 对于经过微调以改变功能福利的模型, 在相同对话历史下是否仍与基模型表现不同。
实验中, 我们对 Gemma 3 27B 进行测试。仅通过拒绝模型的答案(不进行任何引导)会提升其挫败感指标, 并增加违规行为的概率。对模型进行自我叙述解答的微调能够降低这种挫败感。结果虽为初步, 但表明功能福利可以被经验研究并加以塑形。
功能福利是可观测、可干预的安全因素, 未来研究应进一步量化并整合到AI安全框架中。
点评