上海涛德顾问学院

涛德人工智能培训原创文章:TensorFlow、深度学习中的CNN卷积神经网络 ... ... ... ... ...

摘要: TensorFlow、深度学习相关培训技术: CNN卷积神经的网络结构 利用TensorFlow框架,我们可以实现各种卷积神经网络结构,现在出现的网络结构已经有好几十种。 例如: LeNet5 它由两个卷积层,两个池化层,以及两个全连 ...

TensorFlow、深度学习相关培训技术:

CNN卷积神经的网络结构

利用TensorFlow框架,我们可以实现各种卷积神经网络结构,现在出现的网络结构已经有好几十种。

例如:

LeNet5

它由两个卷积层,两个池化层,以及两个全连接层组成。 卷积都是5*5的模板,stride=1,池化都是MAX

我们涛德后面的项目学习中用TensorFlow 实现这个卷积神经网络的变体。


 

 

LeNet5特征包括:

卷积神经网络使用三个层作为一个系列: 卷积,池化,非线性
使用卷积提取空间特征
使用均值采样
采用双曲线(tanh)或(sigmoid)形式的非线性变换

Alexnet 

 

2012年,由Alex Krizhevsky发表了,它是LeNet的一种更深更宽的版本,并以显著的优势赢得了ImageNet竞赛。其在LeNet的基础上改进使网络能够学习到更复杂的对象。

主要的改进包括:

使用修正的非线性单元(ReLU
在训练的时候使用Dropout技术有选择的忽视单个神经元,从而避免过拟合
进行最大池化,避免平均池化的平均化效果。
使用GPU

Google Inception


 

Google Inception 的思想是:既然不同卷积核例如 1*1,3*3, 5*5,甚至是对数据先直接做池化对模型可能都要好处。那么我们就直接把它们组合起来使用。将1x13x35x5conv3x3poolingstack在一起,一方面增加了网络的width,另一方面增加了网络对尺度的适应性。对于Inception 网络目前也一直在发展,在涛德发布本文章时已经发展到第五版。


 

联系

上海涛德顾问学院 ( 沪ICP备14006824号 )  

GMT+8, 2018-12-11 11:33 , Processed in 0.130830 second(s), 14 queries , Gzip On.

Top Data World

回顶部