NeFut Logo NeFut
EN 管理员登录

[AI学术] 对齐后聚合:异构秩下基一致的联邦 LoRA

发布于:2026-11-06 22:00 最后更新:2026-11-07 12:32
#AI #Machine Learning #LLM

联邦微调大语言模型时,各客户端算力差异显著,低秩适配(LoRA)通过为不同客户端分配不同秩 $r_i$ 成为可行方案。现有的服务器端聚合流程先把客户端的 LoRA 因子 $(A_i,B_i)$ 合成为矩阵更新 $\Delta W_i = A_i B_i^{\top}$,再在权重空间 $\mathbb{R}^{m\times n}$ 中直接求平均。虽然 $\Delta W_i$ 位于同一空间,但生成它们的因子往往基于各自的局部基底,导致基底不一致。典型的“合成‑聚合‑因子化‑分发”循环中,这种不一致会使得服务器在重新因子化后向低秩客户端下发的前缀矩阵不稳定。

为了解决该问题,本文提出 FedAbA(Basis‑Consistent Federated LoRA Aggregation)。首先,服务器提取每个客户端的局部基底,并将其对齐到全局参考基底的对应前缀;随后在对齐后的基底上重建每个 $\Delta W_i$,得到基一致的矩阵表示。重建后的矩阵按加权系数聚合,权重同时考虑客户端的数据规模和基底一致性得分。聚合完成后,在系数空间执行精确的 SVD 因子化,并进行 gauge 固定,最终将秩前缀安全地分发给各客户端。

理论分析表明,基底一致性能够降低聚合误差,并为一致性感知的加权机制提供数学支撑。实验在多种异构秩设置下进行,结果显示 FedAbA 在所有基准中均取得领先,尤其在秩差异最大的场景下提升最为显著。

点评:FedAbA 通过显式对齐局部基底,消除了传统聚合中的隐蔽偏差,为异构 LoRA 的联邦学习提供了稳健且高效的解决方案。

原文链接: https://arxiv.org/abs/2611.07598

[h] 返回首页