NeFut Logo NeFut
EN 管理员登录

[AI学术] CoASFL:面向异步拆分联邦学习的耦合一致性优化

发布于:2026-10-22 22:00 最后更新:2026-10-25 13:04
#AI #Machine Learning #Neural

Split Federated Learning(SFL)通过在边缘设备上拆分模型来训练大规模深度网络,能够缓解资源受限的问题。异步 SFL 通过让各客户端独立更新来避免因系统异构导致的拖慢,但会产生两类耦合不一致:横向不一致表现为不同客户端的激活序列差异,纵向不一致表现为客户端与服务器之间的模型参数不同步。统计异构进一步放大这些不一致,导致激活表示偏置、模型发散以及严重的客户端漂移。

为了解决上述问题,本文提出 CoASFL——一种感知不一致的异步 SFL 框架。CoASFL 包含动态激活合并机制和一致性感知模型聚合机制。动态激活合并通过在服务器端对来自异构客户端的激活序列进行对齐与加权融合,生成更一致的激活流,从而削弱横向不一致。模型聚合则根据客户端的参与频率和进度差距动态调整聚合权重,降低纵向不一致的影响。激活层面和模型层面的协同一致性使得不一致传播在异步训练过程中被有效抑制。

在 80 台异构边缘设备的真实测试平台上,CoASFL 相比最新的 SFL 方法实现了 1.61\times~3.74\times 的训练加速,并在模型最终精度上提升了最高 3.26\%。

点评:CoASFL 通过横向与纵向双向一致性控制,显著提升了异步拆分联邦学习在异构环境下的效率与鲁棒性。

原文链接: https://arxiv.org/abs/2610.26992

[h] 返回首页