学习更高效的SPD网络用于信号分类：一种黎曼批归一化方法

《IEEE Transactions on Neural Networks and Learning Systems》：Learning a Better SPD Network for Signal Classification: A Riemannian Batch Normalization Method

针对基于对称正定矩阵（SPD）的深度学习模型中Riemannian批量归一化（RBN）依赖奇异值分解（SVD）导致的数值不稳定问题，提出基于log-Cholesky度量（LCM）的新型RBN算法。该算法利用Cholesky分解实现更高效的计算，且其Riemannian算子具有闭合形式，显著提升SPD矩阵的数值稳定性，特别是在病态矩阵场景下表现更优。实验验证了该方法在四个基准数据集上的有效性，代码已开源。

　　

摘要：

对称正定（SPD）矩阵因其能够有效地编码流形值表示，在各种科学领域被广泛用作黎曼特征描述符。受到欧几里得深度学习架构原理的启发，新兴的SPD神经网络在信号分类方面取得了更显著的进展。其中，基于仿射不变黎曼度量（AIRM）的黎曼批量归一化（RBN）已成为提升基于SPD的网络学习能力的关键技术。然而，由于依赖于奇异值分解（SVD），这种度量在计算SPD矩阵时相对不稳定，尤其是在条件不良的情况下。为了解决这一限制，我们提出了一种基于新引入的对数乔列斯基度量（LCM）的RBN算法，该算法利用了乔列斯基分解。与AIRM不同，LCM具有更高的数值稳定性，并允许更高效的计算。具体来说，基于LCM的黎曼算子（如Fr′chet均值和并行传输（PT）比AIRM的算子更为简单，并且两者都有封闭形式。此外，由于LCM是通过乔列斯基分解从乔列斯基流形得到的拉回度量，因此基于LCM的RBN可以在乔列斯基流形上计算，进一步提高效率。在四个基准数据集上进行的广泛实验证明了我们提出算法的有效性。源代码现已发布在：https://github.com/jjscc/CBN.git。

引言

协方差矩阵在各个科学领域都被广泛认为是有价值的工具。在医学成像领域，协方差矩阵被用于脑机接口（BCIs）[1]、[2]的时间序列数据分类，以及磁共振成像（MRI）[3]、[4]的分析。在信号分类领域，全局协方差矩阵捕捉具有不同长度的数据点的时空波动的能力，使其在包括无人机识别[5]、动态场景分类[6]、[7]、[8]、面部情绪识别[5]、[9]、[10]、动作识别[11]、[12]、[13]等在内的多种实际场景中表现出极高的效能。