NeFut Logo NeFut
EN 管理员登录

[AI学术] LieBN:在李群上进行批量归一化的新框架

发布于:2026-07-13 22:00 最后更新:2026-07-14 12:04
#Machine Learning #optimization #Riemannian

在多种机器学习任务中,流形值测量的应用日益普遍。近期的研究已将深度神经网络(DNN)扩展到流形上,并引入了针对不同几何形状的归一化技术,统称为黎曼归一化。然而,大多数现有的黎曼归一化方法要么针对特定流形设计,要么无法有效归一化流形值样本分布。

为了解决这些局限性,我们提出了LieBN,一个在李群上进行黎曼批量归一化(RBN)的框架。我们的方案利用了每个李群中自然存在的理论上方便的左、右不变度量,为控制黎曼均值和方差提供了理论保证。

我们在九种不同几何形状上实例化了LieBN:四种在对称正定(SPD)流形上的度量,一种在旋转矩阵群上,以及四种在全秩相关矩阵流形上的度量。值得注意的是,在SPD度量中,我们引入了一种新颖的右不变度量,并通过矩阵幂变形扩展了三种现有的李群结构。

针对不同流形的广泛实验验证了我们框架的有效性。代码可在 GitHub 上获取。

博主点评: LieBN框架通过结合李群的几何特性,提供了一种灵活且强大的归一化方法,尤其适用于流形学习任务。这种方法的理论基础和实证验证为未来的研究提供了新的视角,值得深入探索其在更多应用中的潜力。

原文链接: https://arxiv.org/abs/2607.08783

[h] 返回首页