。

Inception模型似乎能够用更少的参数学习更丰富的表示。

它们是如何工作的#xff0c;以及它们与常规卷积有何不同#xff1f;本文将用tensorflow实现…

一、说明

近年来卷积神经网络已成为计算机视觉领域的主要算法开发设计它们的方法一直是相当的关注。

Inception模型似乎能够用更少的参数学习更丰富的表示。

它们是如何工作的以及它们与常规卷积有何不同本文将用tensorflow实现用具体实践展现它的结构。

图1.Xception架构

卷积神经网络CNN已经走了很长一段路从LeNet风格的AlexNetVGG模型它使用简单的卷积层堆栈进行特征提取最大池化层用于空间子采样一个接一个地堆叠到Inception和ResNet网络它们在每层中使用跳过连接和多个卷积和最大池块。

自推出以来计算机视觉中最好的网络之一就是Inception网络。

Inception

模型使用一堆模块每个模块包含一堆特征提取器这允许它们使用更少的参数学习更丰富的表示。

Xception论文—

https://arxiv.org/abs/1610.02357

所示Xception

激活。

该图还详细提到了过滤器的数量、过滤器大小内核大小和步长。

还有各种可分离卷积层。

还有最大池化层。

当步幅与步幅不同时还会提到步幅。

还有

Skip

连接我们使用“ADD”来合并两个张量。

它还显示了每个流中输入张量的形状。

例如我们从

299x299x3

同样对于中间流和退出流此图清楚地解释了图像大小、各个层、滤镜数量、滤镜形状、池化类型、重复次数以及最终添加全连接层的选项。

可分离卷积包括首先执行深度空间卷积分别作用于每个输入通道然后是逐点卷积混合生成的输出通道。

Keras

文档中看到的首先我们需要在每个输入通道上分别实现深度空间卷积。

所以我们使用

3x3x1

个通道。

过滤器的数量可以是我们想要的任意数量的过滤器。

假设我们使用

LxLx64

正如我们所看到的可分离卷积层在计算成本和内存方面都比传统的卷积层更具优势。

主要区别在于在正常卷积中我们会多次转换图像。

每次变换都会使用

3x3x3x64

次乘法。

在可分离卷积中我们只转换图像一次——在深度卷积中。

然后我们获取转换后的图像并将其简单地拉长到

图5.Xception性能与ImageNet上的Inception来源图片来自原始论文

Figure

SeparableConv2D(filtersfilters,

kernel_size

tensorflow.python.keras.utils.vis_utils

import

graphvizSVG(model_to_dot(model,

show_shapesTrue,

subgraphFalse).create(progdot,formatsvg))

输出代码段

使用Tensorflow从头开始创建Xception模型的完整代码

#import

SeparableConv2D(filtersfilters,

kernel_size

网络要好得多。

Xception的作者认为这是因为Inception被设计为专注于ImageNet因此可能过于适合特定任务。

另一方面这两种架构都没有针对JFT数据集进行调优。

此外Inception