摘要
随着基础模型在边缘智能中的广泛部署，通信带宽成为限制联邦学习可扩展性的核心瓶颈。虽然一次性联邦学习通过最小化通信轮数来缓解此问题，但现有的迭代微调或知识蒸馏方法仍面临高服务器端计算成本和超参数敏感性等挑战。
分析性联邦学习通过最小二乘闭式解实现了高效的无梯度聚合，但在非独立同分布数据的环境中，其静态特征假设失效，导致特征流形错位，严重影响模型性能。
为了解决这一矛盾，本文提出了FedOPAL框架。该框架将视觉提示作为特征校正器，通过应用局部近端约束，主动纠正异构数据的特征分布至线性可分空间，从而满足分析性联邦学习的理论假设。
实验结果表明，FedOPAL不仅在多个基准上显著超越原有的分析性方法，而且在保持零服务器端训练成本的同时，实现了与最先进的迭代方法相当的准确性，为大型模型在边缘的高效协作提供了新的工程范式。
博主点评： FedOPAL框架通过引入视觉提示的创新方式，有效解决了联邦学习中的数据异构性问题，展示了其在边缘智能应用中的潜力。这一研究为未来的模型训练提供了新的思路，尤其是在资源受限的环境中，具有重要的实际意义。