卷积架构是与大脑皮层功能相一致的新生结构(即全新设计的、符合大脑皮层运作原理的架构)

《Nature Machine Intelligence》:Convolutional architectures are cortex-aligned de novo

【字体: 时间:2025年11月15日 来源:Nature Machine Intelligence 23.9

编辑推荐:

  皮层对齐表示的神经科学机制:通过分析未预训练宽卷积网络发现,空间压缩(池化)与特征域扩展(通道数增加)的组合能有效生成类皮层视觉表征,且卷积架构的诱导偏见是这种特征扩展性能提升的关键因素,其他架构或局部损伤会显著削弱效果,表明生物视觉的深层约束与现有卷积网络架构存在内在一致性。

  

摘要

在深度神经网络的视觉模型中,皮层对齐的表征是如何产生的?早期的研究表明,共同的架构约束是一个重要因素,但经过预训练后各种不同架构的成功使用,引发了关于架构约束重要性的关键问题。在这里,我们发现,在经过最小程度训练的广泛网络中,架构上的归纳偏差起着重要作用。我们研究了具有不同架构但未经预训练的网络,并量化了它们预测猴子和人类视觉皮层中图像表征的能力。我们发现,在结合了两种关键维度操作(即通过池化在空间域进行压缩,以及通过增加通道数量在特征域进行扩展)的卷积架构中,会出现皮层对齐的表征。此外,我们还表明,卷积架构的归纳偏差对于从特征扩展中获得性能提升至关重要——在其他架构以及具有针对性损伤的卷积模型中,这种维度操作的效果相对较差。我们的研究结果表明,卷积网络的架构约束与生物视觉的约束足够接近,以至于即使在突触连接通过经验进行调整之前,许多皮层视觉表征的方面也能够得以形成。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号