联邦学习常被宣传为一种保护隐私的技术:个人数据留在本地设备,只有模型更新被共享。它借用了联邦社交网络的词汇,却把计算分布到各端,而最终模型仍归组织者所有。我们认为,仅靠联邦并不能根除提取式 AI,因为结果取决于谁掌控数据和模型,以及谁拥有对其形塑过程的主体性。\ \ 创意社区可以在三个层面行使治理:存储、流通和学习。艺术家主导的信托、合作社以及同意基础设施已经在存储和流通层面实现了创作者的治理,但在学习层面仍显不足:贡献者可以同意参与训练,却几乎无法决定最终模型或其联邦方式。\ \ 基于此,我们将研究空间划分为技术难题与其背后的人文问题,并提出四条设计原则,以构建能够治理模型及其联邦的创意数据公共体:①治理模型,而非仅治理语料;②在贡献时让条款可读;③把拒绝设计为第一类状态;④公开决定托管权并对其负责。\ \ 点评