新上线今天0 投票
LieBN:李群上的批量归一化新框架
解决流形归一化的通用难题
在机器学习中,流形值数据(如对称正定矩阵、旋转矩阵)广泛出现在视觉、机器人、医学成像等领域。虽然深度神经网络已能处理这些非欧几里得数据,但如何有效归一化流形上的样本分布仍是难题。现有黎曼归一化方法多针对特定流形设计,缺乏通用性,且难以真正控制分布均值和方差。
LieBN:统一李群上的归一化
为突破这一瓶颈,来自意大利特伦托大学、中国江南大学等机构的研究者提出了 LieBN,一个基于李群理论的黎曼批量归一化框架。李群是同时具有群结构和光滑流形结构的数学对象,典型例子包括旋转群 SO(3)、对称正定矩阵群等。LieBN 的核心思路是利用李群上天然存在的左不变和右不变度量——这些度量在群作用下保持几何性质不变,从而为归一化提供理论保障。
九种几何实例与创新度量
研究团队在九种不同几何结构上实例化了 LieBN:
- SPD 流形(对称正定矩阵):四种度量,包括一种新提出的右不变度量,以及通过矩阵幂变形扩展的三种李群结构
- 旋转矩阵群 SO(3):一种度量
- 满秩相关矩阵流形:四种度量
值得注意的是,在 SPD 流形上,研究者引入了一种全新的 右不变度量,并利用矩阵幂变形技术将三种现有黎曼度量转化为李群结构,极大丰富了可选的几何工具。
理论保证与实验验证
LieBN 提供了理论上的保证:通过左/右不变度量,归一化过程能有效控制黎曼均值与方差,避免传统方法中分布偏移的问题。实验在多种流形任务上验证了 LieBN 的有效性,表明其优于现有的特定流形归一化方法。代码已开源。
意义与展望
LieBN 为流形深度学习提供了一个统一、可扩展的归一化解决方案。它不仅简化了不同流形上归一化方法的设计,也为处理更复杂的结构(如李群上的图神经网络、时间序列建模)奠定了基础。未来,该框架有望在计算机视觉、机器人操控、医学图像分析等需要处理流形数据的领域发挥作用。