SheepNav
新上线今天0 投票

LieBN:李群上的批量归一化新框架

解决流形归一化的通用难题

在机器学习中,流形值数据(如对称正定矩阵、旋转矩阵)广泛出现在视觉、机器人、医学成像等领域。虽然深度神经网络已能处理这些非欧几里得数据,但如何有效归一化流形上的样本分布仍是难题。现有黎曼归一化方法多针对特定流形设计,缺乏通用性,且难以真正控制分布均值和方差。

LieBN:统一李群上的归一化

为突破这一瓶颈,来自意大利特伦托大学、中国江南大学等机构的研究者提出了 LieBN,一个基于李群理论的黎曼批量归一化框架。李群是同时具有群结构和光滑流形结构的数学对象,典型例子包括旋转群 SO(3)、对称正定矩阵群等。LieBN 的核心思路是利用李群上天然存在的左不变和右不变度量——这些度量在群作用下保持几何性质不变,从而为归一化提供理论保障。

九种几何实例与创新度量

研究团队在九种不同几何结构上实例化了 LieBN:

  • SPD 流形(对称正定矩阵):四种度量,包括一种新提出的右不变度量,以及通过矩阵幂变形扩展的三种李群结构
  • 旋转矩阵群 SO(3):一种度量
  • 满秩相关矩阵流形:四种度量

值得注意的是,在 SPD 流形上,研究者引入了一种全新的 右不变度量,并利用矩阵幂变形技术将三种现有黎曼度量转化为李群结构,极大丰富了可选的几何工具。

理论保证与实验验证

LieBN 提供了理论上的保证:通过左/右不变度量,归一化过程能有效控制黎曼均值与方差,避免传统方法中分布偏移的问题。实验在多种流形任务上验证了 LieBN 的有效性,表明其优于现有的特定流形归一化方法。代码已开源。

意义与展望

LieBN 为流形深度学习提供了一个统一、可扩展的归一化解决方案。它不仅简化了不同流形上归一化方法的设计,也为处理更复杂的结构(如李群上的图神经网络、时间序列建模)奠定了基础。未来,该框架有望在计算机视觉、机器人操控、医学图像分析等需要处理流形数据的领域发挥作用。

延伸阅读

  1. HERO:面向联邦持续学习的异构感知基准库
  2. Director:面向分布式MoE服务的在线主动专家放置系统
  3. Reward Transport:流匹配中的属性控制新范式——噪声空间对齐
查看原文