面向鲁棒MIMO速率分割多址的深度接收机架构：基于混合模型/数据驱动的创新方法

《IEEE Transactions on Machine Learning in Communications and Networking》：Deep Receiver Architectures for Robust MIMO Rate Splitting Multiple Access

本文针对速率分割多址（RSMA）系统中传统连续干扰消除（SIC）接收机在非理想信道状态信息（CSI）和非线性信道下性能急剧恶化的问题，提出了一种基于神经网络的混合模型/数据驱动接收机架构。研究人员通过将信道估计和符号检测的关键模块替换为精心设计的神经网络（如1D-CNN和DNN），开发了RS-Net、RS-Net+和Joint-Net三种架构。研究结果表明，所提方案（尤其是RS-Net+）在存在信道估计误差、预编码误差及放大器非线性等实际损伤时，显著优于传统SIC和线性最小均方误差（LMMSE）检测器，且无需针对每次信道实现重新训练，为6G无线通信系统的鲁棒性设计提供了新思路。

　　

在追求更高频谱效率的驱动下，非正交多址接入（NOMA）技术，特别是速率分割多址（RSMA），已成为超越传统正交多址（OMA）方案的有力候选者，被广泛视为6G的关键技术之一。RSMA通过将用户消息拆分为公共部分和私有部分，并采用叠加编码和预编码技术，能够更灵活地管理多用户干扰，从而在多种性能指标上展现出优势。然而，RSMA接收机的核心——连续干扰消除（SIC）技术，其性能高度依赖于精确的信道状态信息（CSI）。在实际系统中，信道估计误差、预编码不完美以及收发器非线性（如功率放大器饱和）等模型失配问题，极易导致SIC操作中的误差传播，从而使接收机性能急剧下降。传统基于模型的信号处理算法难以有效应对这些不确定性，限制了RSMA潜力的充分发挥。

正是在这一背景下，深度学习技术为解决无线通信系统中的模型失配问题提供了新的契机。尽管已有研究尝试将神经网络（NN）应用于NOMA/RSMA接收机，但它们大多存在一个关键瓶颈：需要为每一次信道实现收集大量导频符号重新训练神经网络，这在实际系统中带来了巨大的开销，难以实用化。

为了解决这一核心挑战，发表在《IEEE Transactions on Machine Learning in Communications and Networking》上的这篇论文“Deep Receiver Architectures for Robust MIMO Rate Splitting Multiple Access”提出了一种创新的混合模型/数据驱动方法。研究人员的目标是设计一种无需随信道变化而重新训练的神经网络增强型RSMA接收机，从而在保持低训练开销的同时，显著提升系统在非理想条件下的鲁棒性。

为开展研究，作者主要采用了以下几种关键技术方法：首先，利用一维卷积神经网络（1D-CNN）进行信道估计，将接收到的导频信号映射到等效信道响应，替代传统的最小二乘（LS）估计器。其次，设计了多种基于深度神经网络（DNN）的符号检测架构：RS-Net模仿传统SIC流程，用两个DNN分别检测公共流和私有流；RS-Net+是RS-Net的增强版，在公共流检测DNN中额外输入基于模型计算得到的用户私有符号软估计值；Joint-Net则利用多天线提供的空间自由度，采用单个DNN同时检测公共流和私有流，实现非SIC的联合检测。所有神经网络均通过离线训练，并在测试阶段固定权重，避免了在线重训练。性能评估通过仿真进行，重点考察了符号错误率（SER）与计算复杂度在不同信道损伤程度下的表现。

信号和系统模型

研究考虑一个下行多用户MIMO系统，基站配备N_T根发射天线，服务K个每个配备N_R根接收天线的用户。采用1层RSMA方案，每个用户的消息W_k被拆分为公共子消息W_c,k和私有子消息W_p,k。所有用户的公共子消息被合并编码为一个公共流s_c，而私有子消息则独立编码为私有流s₁,..., s_K。发射信号经过预编码矩阵P加权后发送。接收机首先解码公共流，然后通过SIC操作将其从接收信号中消除，再解码目标私有流。研究还考虑了由不完美CSIT导致的预编码误差模型，即使用带噪声的信道估计值来设计预编码器。

计算机仿真结果

仿真结果表明，在功率分配优化方面，最大似然（ML）检测器的总SER在私有流功率分配系数α_k处于[0.2, 0.65]范围内时相对平坦。在信道估计性能上，1D-CNN估计器在线性和非线性信道下均优于LS估计器，尤其在非线性信道中优势显著（NMSE增益达5-7 dB）。

在符号检测性能方面，对于QPSK调制和多天线用户，RS-Net在低信噪比（SNR）下优于传统SIC，但在高SNR下出现错误平层。RS-Net+通过引入私有符号软信息，有效消除了该错误平层，性能大幅提升。Joint-Net性能最佳，最接近ML检测器，但其对信道估计误差更敏感。

在存在预编码误差（β² = 0.2）时，SIC性能严重恶化，而数据驱动方案表现稳健。对于16QAM调制，RS-Net+在非线性信道下的优势更加明显，而纯黑箱方法的Joint-Net性能下降显著。在过载场景（用户总接收天线数大于基站发射天线数）下，RS-Net+再次展现出其处理低功率分配私有流和模型不确定性的强大能力。

特别地，在非线性信道（接收端放大器功率削波）条件下，传统方案（如ML、SIC）性能崩溃，而所提数据驱动方案，尤其是RS-Net+，展现了卓越的鲁棒性。

可视化分析（t-SNE）显示，RS-Net+能够学习到有效的星座图映射，即使在非线性失真下也能保持清晰的符号聚类。

计算复杂度分析

计算复杂度分析表明，所提神经网络方案在推理阶段的复杂度高于传统线性检测器，但低于或与ML检测器相当。RS-Net+因其精心设计的架构，在获得优异性能的同时，保持了相对较低的计算复杂度，展现了良好的性能-复杂度折衷。

本研究通过系统性地设计和评估三种基于深度学习的RSMA接收机架构，有力地证明了混合模型/数据驱动方法在提升无线通信系统鲁棒性方面的巨大潜力。其核心结论在于，RS-Net+架构通过将模型知识（私有符号的软估计）与数据驱动学习相结合，能够在各种信道损伤（包括不完美CSIT、不完美CSIR和非线性）下实现接近最优的符号检测性能，且无需针对每次信道实现进行重新训练。这不仅解决了现有数据驱动RSMA接收机训练开销过大的问题，也显著优于在非线性等复杂信道条件下性能崩溃的传统模型驱动方法。该研究为将机器学习无缝集成到实际通信系统中提供了可行的技术路径，标志着向更智能、更鲁棒的6G接收机设计迈出了重要一步。论文所倡导的“离线训练、在线冻结”模式，以及结合模型知识与数据驱动的设计哲学，对未来通信物理层算法研究具有重要的启发意义。