由深度学习训练得到的网络也叫做深度神经网络(deep neural networks,DNN)。深度神经网络有以下几种:
1)前馈深度网络( feed-forward deep networks, FFDN) ,由多个编码器层叠加而成,如多层感知机( multi-layer perceptrons,MLP)[14,15]、卷积神经网络 ( convolutional neural networks,CNN)[12,13]等.
2)反馈深度网络( feed-back deep networks, FBDN) ,由多个解码器层叠加而成,如反卷积网络 ( deconvolutional networks,DN)[16]、层次稀疏编码网络( hierarchical sparse coding,HSC)[17]等。
3)双向深度网络( bi-directional deep networks,BDDN) ,由多个编码器层和解码器层构成,如深度玻尔兹曼机( deep Boltzmann machines,DBM)[18,19]、深度信念网络( deep belief networks,DBN)[13]、栈式自编码器( stacked auto-encoders,SAE)[20]等。