联邦学习中基于正交滤波注意力机制（FedOFA）的个性化本地结构优化研究

本文提出联邦正交滤波注意力机制（FedOFA），通过双流滤波感知注意力模块（TFA）实现参数重校准，结合层内（IntraFA）与层间（InterFA）注意力流增强滤波器表征能力，并引入正交正则化（OR）减少冗余。创新性提出注意力引导剪枝策略（AGPS），在降低通信成本的同时保持性能，为异构数据下的联邦学习（FL）提供高效解决方案。

　　

Highlight

本研究聚焦滤波器在个性化联邦学习（FL）中的核心作用，提出FedOFA框架，通过正交滤波注意力机制实现两大目标：1）解耦滤波器：利用_l2-正交惩罚（公式(11)）使滤波器间内积趋近零，确保各滤波器捕获独特信息；2）冗余削减：通过抑制相关性降低过参数化，提升泛化能力。

Two-Stream Filter-Aware Attention (TFA)

TFA模块通过双路径设计革新传统注意力机制：

• 层内注意力（IntraFA）：个性化筛选单个滤波器的关键参数；

• 层间注意力（InterFA）：挖掘滤波器间隐含关联，构建客户端特异性结构。

  该模块直接作用于服务器端滤波器，避免客户端计算开销，且通过线性投影生成多头部（multi-heads）替代传统reshape操作，显著提升效率。

Orthogonal Regularization (OR)

引入OR约束滤波器正交性，其理论分析表明：当超网络参数为?时，第i个客户端网络θ_i的收敛性不受影响，且滤波器多样性提升使模型更适配异构数据分布。

Attention-Guided Pruning Strategy (AGPS)

AGPS基于TFA的稀疏化特性动态掩蔽非关键神经元，实验显示：在CIFAR-10/100数据集上，仅保留15%高注意力神经元即可维持95%+准确率，通信负载降低40%。

Conclusion

FedOFA通过滤波器级个性化重构，首次实现客户端模型结构的无成本定制，其TFA模块与AGPS策略为FL领域提供了兼顾性能与效率的新范式。