在宪法式 AI 中,使用纯文本的“宪法”来编码价值观,并在后训练阶段注入模型。然而,制定宪法本身面临重大挑战:谁来贡献内容、谁决定纳入哪些规范、以及过程需要多大程度的参与或民主?这些问题若不解决,往往会导致进展停滞。我们认为必须采取行动:若缺乏明确的宪法,主权模型可能出现错位,或默认采用前沿模型提供者的价值体系。
我们把宪法的制定视为一种类似公民科学的持续、参与式过程,采用迭代、模块化、可辩护、情境化和合法性五大原则。宪法应随时间和受治理人群的变化保持响应性,并将条款标记为“已确定”“有争议”或“未定”,以记录而非消除持久分歧。
为验证该流程的稳健性,我们构建了基于代理的模型进行仿真。结果显示:在参与体中有 75% 的成员抱有善意时,即使有 50% 的公民是恶意行为者,整个维护活宪法的过程仍能保持稳定。这表明该机制能够容忍相当比例的对抗性参与者。
点评:本文提出的活宪法框架为主权模型提供了一条可操作的治理路径,兼顾技术实现与民主参与,实验验证了其在高比例恶意行为者环境下的鲁棒性,为未来的模型对齐提供了新思路。