一个基于任务的深度循环网络,加入循环单元可以解决更困难的视觉问题.doc
《一个基于任务的深度循环网络,加入循环单元可以解决更困难的视觉问题.doc》由会员分享,可在线阅读,更多相关《一个基于任务的深度循环网络,加入循环单元可以解决更困难的视觉问题.doc(3页珍藏版)》请在三一文库上搜索。
1、一个基于任务的深度循环网络,加入循环单元可以解决更困难的视觉问题编者按:深度卷积神经网络对视觉系统来说是个不错的模型,但这些静态系统不能解释现实视觉反应中的短暂动态行为。于是神经科学家们建造了一个基于任务的深度循环网络,加入循环单元可以解决更困难的视觉问题。以下是论智的编译。摘要前馈卷积神经网络(CNN)是目前最先进的目标分类任务工具,例如ImageNet。另外,他们是灵长类动物大脑中视觉系统中精准定量平均响应时间的模型。然而,生物视觉系统的两种普遍存在的结构特征是典型CNN不具备的,即皮质区域内的局部循环,以及下游区域到上游区域的远距离反馈。在这篇文章中,我们研究了循环结构在提高分类性能时的
2、作用,我们发现,在ImageNet任务中,标准的循环形式(vanilla RNN和LSTM)无法在深度CNN中达到良好表现。相反,能将两种结构特征bypassing和gating结合起来的结构能将任务精确度极大地提升。我们将这些设计原则应用在数千个模型中的自动搜索上,它们确定了局部循环单元和远距离反馈连接对目标辨认很有用。另外,这些经过任务优化的卷积RNN能比反馈网络更好地解释灵长类动物神经系统中神经元的活动,说明大脑的循环连接在执行不同的视觉动作时非常重要。背景介绍大脑的传感器系统必须在含有噪音的复杂感知数据中检测出有意义的模式。视觉环境可以揭示物体正面或负面的价值,例如食物种类、危险的信号
3、或难忘的人。然而这些信号在不同场景中的位置、姿势、背景和前景都相差很大,所以从低属性图像中很难辨别出目标物体。最近的研究表明,针对任务优化的深度卷积神经网络(CNN)是灵长类动物大脑的视觉编码精确的量化模型。CNN经过训练,可以识别ImageNet中的物体,并且能比其他模型更好地解释视觉系统中的神经元反馈。模型的各个卷积层分辨提供不同视觉区域的线性预测。但是,灵长动物的视觉系统有些结构并没有被前馈CNN完全模仿,即皮质区域的局部循环连接和不同区域的远距离连接。目前还不清楚循环的作用,有科学家猜想循环是用来填补缺失的数据,或进行从上到下基于注意力的特征调整。虽然经过增强的有循环结构的CNN可以用
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 一个 基于 任务 深度 循环 网络 加入 单元 可以 解决 困难 视觉 问题
链接地址:https://www.31doc.com/p-3361882.html