大型语言模型代理可以通过执行经验演化可复用的自然语言技能。真实部署中,这些经验分布在不同的数据拥有者之间,原始数据无法集中,因而需要联邦技能进化。
传统的设计让每个客户端演化完整的技能文档并上传,存在三大缺陷:文档仍可能携带客户端私有内容;几乎未变的文档重复传输浪费通信;单个客户端的贡献在服务器端难以归因。
FedSkillGit 的核心思想是用提交(commit)取代全文更新。每个客户端提交一组受限的补丁(patch)以及本轮的本地经验摘要。补丁针对命名规则,经验摘要概括学习内容。两阶段隐私过滤后才离开客户端。
服务器对所有补丁和经验进行去重,更新全局经验文档(仅供优化器读取),并将保留下来的补丁合并成候选技能。候选技能下发给客户端,客户端在本地验证集上打分并回报。只有当报告的分数相对于当前版本提升时,候选技能才会被正式发布。
实验在三个数据集和三类语言模型上进行,FedSkillGit 相比最先进基线提升最高 22%,并且在不共享原始数据的情况下接近中心化进化的效果。
点评: 该框架通过增量补丁和经验去重显著降低通信开销,并提供可追溯的贡献归因,为实际联邦部署提供了可行路径。