图2。3 LeNet-5卷积神经网络结构

从上图中,我们可以发现,从左向右,卷积神经网络由以下四个神经网络层组成:卷积层,池化层,全连接层以及分类层。并且卷积神经网络的工作流程如下:

向输入层输入大小为3232的原始图像,图像数据交替流入若干个卷积层和池化层中,并且在卷积层和池化层中分别进行卷积和池化操作(关于操作的细节在下面会进行详述)。通过卷积和池化操作的处理后,图像的特征被提取出来,并且得到的特征向量流入全连接层中,在全连接层中特征向量被进一步地计算拟合。然后将全连接层输出的特征向量输入到分类层中,经过分类层的处理,得到图像属于各个分类的概率大小。而卷积神经网络的训练过程,就是根据输入的样本集,不断调整各层的参数,使得卷积神经网络的结果更加准确。

关于卷积神经网络各层的原理,我们会在接下来的内容中详细介绍。文献综述

2。3卷积层

根据卷积神经网络的名字,我们就可以知道:卷积层是卷积神经网络的核心。并且相对于其他深层神经网络,卷积层是卷积神经网络的特殊之处。在卷积层中包含了卷积神经网络的两个最大的优势:局部感知和权值共享。

2。3。1局部感知

局部感知的思想源于生物学中对视觉系统结构的研究。一般认为,人们对外界的认知是从局部到全局的,并且对于图像而言,局部的像素之间的联系较为紧密,而距离较远的像素之间的联系则较弱。因此,对于深层神经网络,每一个神经元并不需要对全局去进行感知,只需要对局部进行感知。然后在更高的层中将不同神经元所感知到的局部特征综合起来,进而得到全局的特征。这对于深层神经网络而言,显著降低了需要训练的权值参数个数,如图2。4所示。

图 2。4 全局感知和局部感知的区别

如上图所示,对于一个大小为10001000的图像,若采用全局感知的方式,则需要10001000 = 1000000即1百万个神经元,也需要训练10001000 = 个权值参数。然而假入采用局部感知的方式,假设局部感受野为1010(即卷积核的大小为1010),则每个神经元只需要和这1010的局部区域相连接,且只需要100个权值参数。然后因为需要将图像扫描一遍,假设卷积核每次只移动一个像素单位,则需要的神经元个数为。也就是说需要训练的参数个数为:100。相比全局感知,大约降低了四个数量级。来;自]优Y尔E论L文W网www.youerw.com +QQ752018766-

由上可知,局部感知对于卷积神经网络作用巨大。但是,需要训练的权值参数数目还是很大。因此,卷积神经网络基于局部感知,进一步采取了另一个措施:权值共享。

2。3。2权值共享

关于权值共享,首先,我们知道人类神经中枢的神经细胞,它们的结构,功能相同,甚至是可以相互替代。那么,对于上面叙述的例子,每个神经元需要100个权值参数,需要的神经元数量为。假设神经元之间的权值共享(即让神经元像神经细胞一样具有相同的结构、功能),那么我们所需要训练的参数只有100个。这就是权值共享的作用。通过权值共享,参数数量由全局感知的降到100。

然而,这100个权值参数只对应了一种卷积核,只能提取一种特征,显然特征提取并不充分。为此,卷积神经网络采用了多卷积核的方法

上一篇:java的logSig日志管理和分析系统设计与实现
下一篇:没有了

自拍图像中的记忆痕迹【5090字】

嵌入式系统数字图像采集...

CDMA的无线图像监控终端设计【801字】

图像处理中分辨率的选取【1488字】

内容的模糊图像检索技术研究【975字】

深度学习基于内容的图像检索

矩阵奇异值分解及其在图像处理中的应用

新課改下小學语文洧效阅...

ASP.net+sqlserver企业设备管理系统设计与开发

老年2型糖尿病患者运动疗...

LiMn1-xFexPO4正极材料合成及充放电性能研究

我国风险投资的发展现状问题及对策分析

麦秸秆还田和沼液灌溉对...

网络语言“XX体”研究

互联网教育”变革路径研究进展【7972字】

张洁小说《无字》中的女性意识

安康汉江网讯