视觉皮层环模型中状态依赖的鲁棒性机制：侧向连接如何塑造频率选择性滤波

《Frontiers in Computational Neuroscience》：State-dependent filtering as a mechanism toward visual robustness

本文综述了视觉系统（V1）环模型中状态依赖的鲁棒性机制，探讨了侧向连接（lateral connectivity）如何通过频率选择性滤波（frequency-selective filtering）增强系统对结构化扰动（如对比度、旋转、拉伸）的响应，同时抑制噪声。作者结合稳态速率模型（steady-state rate model）和脉冲神经元模型（spiking neuron model），分析了激活模式（activation pattern）和连接强度（如kEE, kEI, kIE）对系统频率响应（如ξ=0,1,2对应对比度、旋转、拉伸扰动）的影响，揭示了生物视觉系统通过侧向连接实现鲁棒性（robustness）的数学原理，为人工神经网络（ANN）的鲁棒性设计提供了新思路。

　　

视觉系统在面对复杂多变的外部输入时，展现出令人惊叹的鲁棒性。这种鲁棒性并非简单的噪声免疫，而是一种精巧的、状态依赖的过滤机制。本研究通过分析视觉皮层V1的经典计算模型——环模型，深入探讨了其内在的鲁棒性机制。研究发现，侧向连接网络与神经元当前的激活状态共同作用，形成了一个动态的“滤波器”，该滤波器能够选择性放大与当前输入结构一致的扰动，同时有效抑制无关的噪声干扰。

稳态环模型与扰动分析

研究首先在线性近似的框架下，分析了稳态速率环模型对微小输入扰动的响应。该模型包含兴奋性（E）和抑制性（I）两类神经元群体，它们通过高斯形状的侧向连接核相互连接。系统的动力学由一组方程描述，其中神经元的发放率取决于外部输入和经由侧向连接加权后的群体内部活动。

通过对系统在稳态附近进行线性化，可以得到一个描述扰动传播的线性系统。该系统的响应特性由其雅可比矩阵的奇异值分解（SVD）决定。大的奇异值对应的奇异向量方向，代表了那些能够被网络显著放大的扰动模式。分析表明，在环状拓扑和循环对称的连接假设下，这些扰动模式在神经元偏好取向的空间中呈现出清晰的傅里叶模态特征，即正弦或余弦波。其频率ξ成为了一个关键的组织指标：ξ=0对应于所有取向神经元活动同步变化的“对比度”调制；ξ=1对应于活动模式在取向上发生平移的“旋转”样扰动；ξ=2则对应于活动模式被“拉伸”或“压缩”的扰动。

侧向连接的具体参数（如连接强度α_XY和空间范围σ_XY）决定了系统对不同频率ξ的偏好，即频率响应曲线。例如，仅存在兴奋性循环连接（E-E）会增强低频响应；而引入适当的抑制性反馈（E-I-I-E通路）则可以压制低频、凸显特定中高频，从而形成带通滤波特性。这种频率选择性的本质是侧向连接所实现的“兴奋-抑制”平衡在频率空间上的体现。

激活模式对滤波特性的调控

一个关键发现是，网络的滤波特性并非固定不变，而是强烈依赖于当前哪些神经元处于活跃状态。当所有神经元都活跃时，系统保持完美的旋转对称性，其响应由频率ξ主导。然而，当只有一部分神经元（例如，一个连续的取向区间）被激活时，系统的对称性被打破。此时，虽然主导的扰动模式仍然具有明显的频率特征，但其空间模式会偏向于活跃的神经元区间。

这意味着，对于同一个输入，网络处于不同的激活状态时，它对各种扰动的敏感度是不同的。系统会优先响应那些与其当前表征内容“相干”的扰动。例如，当一个主要表征垂直边缘的激活模式形成后，网络对图像中垂直边缘的微小旋转或拉伸会更为敏感，而对水平方向的类似变化或全局对比度变化则相对不敏感。这种状态依赖的过滤机制为“鲁棒性”提供了一个更精细的定义：它不是对所有变化一概拒之，而是有选择地关注那些在当下语境中可能蕴含重要信息的变化。

脉冲神经元模型的验证

为了验证理论分析的普遍性，研究进一步在一个更接近生物现实的电导整合发放（I&F）脉冲神经元模型上进行了实验。尽管模型实现差异很大，但在均值驱动（mean-driven） regime下，脉冲神经元环模型表现出了与稳态速率模型定性一致的行为。模型同样展示出对特定频率扰动家族（对比度、旋转、拉伸）的选择性响应，并且这种选择性可以通过调整侧向连接的参数来系统地改变。这一结果增强了理论发现的可信度，表明所揭示的鲁棒性机制可能普遍存在于不同类型的神经网络中。

从取向空间到图像空间的映射

为了将环模型内部的频率选择性与其对外部图像扰动的响应联系起来，研究分析了Gabor滤波算子的性质。Gabor算子将输入图像映射到环模型上不同偏好取向神经元的响应。当所有取向通道都活跃时，Gabor算子的奇异向量在图像空间表现为具有特定频率的条纹模式，与环模型内部的频率模态完美对应。低阶频率（ξ=0,1,2）对应的图像扰动恰好是语义上可解释的对比度变化、小角度旋转和形状拉伸。

当Gabor算子仅作用于一个子集（部分活跃的取向）时，其奇异向量表征了在该特定激活状态下，最能有效驱动系统的图像扰动模式。通过求解在固定扰动能量约束下能最大化网络响应变化的图像模式，研究直观地展示了网络在不同侧向连接参数下所“偏好”的扰动类型。例如，在某种参数组合下，最能扰动网络的图像变化是形状的拉伸，而在另一种参数下，则可能是微小的旋转。这直接将环模型内部的频率滤波机制与图像空间的语义扰动联系了起来。

侧向连接在视觉鲁棒性中的作用与启示

综合以上分析，侧向连接被认为是实现状态依赖过滤和视觉鲁棒性的核心机制。侧向连接通常由输入统计的规律所塑造，因此它们可能本能地优先处理与自然图像统计特性相符的扰动，而过滤掉那些不常见的、偏离自然规律的干扰。这种机制使得视觉信息处理在面对多变的外部环境时表现出强大的韧性。

与大多数缺乏类似侧向计算的人工神经网络（尤其是非Transformer架构）相比，生物视觉系统的这种内置鲁棒性机制显得尤为突出。后者常常对微小的、人眼难以察觉的对抗性扰动异常脆弱。因此，本研究的结果为设计更鲁棒的人工智能模型提供了启示：或许可以在人工网络中引入类似的状态依赖、基于侧向交互的滤波模块，使其能够根据输入动态调整其敏感性，从而改善其对结构化扰动的抵抗力。

总结与展望

本研究通过结合理论分析和数值模拟，阐明了生物视觉系统中一种基于侧向连接和激活状态的频率选择性滤波机制，该机制是视觉鲁棒性的重要基础。它将鲁棒性从一个笼统的概念具体化为一种可计算、可调节的滤波过程。未来的研究可以沿着多个方向推进，例如将分析扩展到更复杂的层次化视觉处理模型，比较带有侧向连接和无侧向连接网络的优劣，将更详细的生物物理约束纳入模型，以及最终将这些生物学原理应用于优化人工神经网络的架构和训练策略，以期最终缩小生物与机器视觉在鲁棒性方面的巨大差距。