。

特征#xff0c;也称为变量或属性#xff0c;是我们用来进行预测、对对象进行分类或从数据中获取见解的数据点的特定特征或属性。

1.AlexNet

paper#…特征提取是数据分析和机器学习中的基本概念是将原始数据转换为更适合分析或建模的格式过程中的关键步骤。

特征也称为变量或属性是我们用来进行预测、对对象进行分类或从数据中获取见解的数据点的特定特征或属性。

1.AlexNet

paperhttps://dl.acm.org/doi/pdf/10.1145/3065386

Alex

显然该网络是按照作者名字命名的,但是现在这个bacbone比较老了性能欠佳

整体结构主要由五个卷积层、三个全连接层构成中间穿插着最大池化、ReLU、Dropout

使用ReLu非线性激活函数

nn.Sequential(nn.Conv2d(in_channels3,

out_channels96,

55)nn.ReLU(),nn.LocalResponseNorm(size5,

alpha0.0001,

27)nn.ReLU(),nn.LocalResponseNorm(size5,

alpha0.0001,

13)nn.ReLU(),nn.MaxPool2d(kernel_size3,

stride2),

inplaceTrue),nn.Linear(in_features(256

6),

out_features4096),nn.ReLU(),nn.Dropout(p0.5,

inplaceTrue),nn.Linear(in_features4096,

out_features4096),nn.ReLU(),nn.Linear(in_features4096,

out_featuresnum_classes),)self.init_bias()

initialize

nn.Conv2d):nn.init.normal_(layer.weight,

mean0,

std0.01)nn.init.constant_(layer.bias,

0)#

layersnn.init.constant_(self.net[4].bias,

1)nn.init.constant_(self.net[10].bias,

1)nn.init.constant_(self.net[12].bias,

1)def

paper:https://arxiv.org/abs/1409.1556

作者Karen

相比AlexNet而言加深了网络的深度VGG1613层conv3层FC和VGG1916层conv3层FC是指表中的D、E两个模型。

code_vgg_Pytorch

https://github.com/pytorch/vision.gitimport

mathimport

nn.Sequential(nn.Dropout(),nn.Linear(512,

512),nn.ReLU(True),nn.Dropout(),nn.Linear(512,

512),nn.ReLU(True),nn.Linear(512,

10),)#

m.out_channelsm.weight.data.normal_(0,

math.sqrt(2.

nn.ReLU(inplaceTrue)]else:layers

[conv2d,

nn.ReLU(inplaceTrue)]in_channels

vreturn

paper:https://arxiv.org/abs/1512.03385

作者Kaiming

使用残差网络避免模型变深带来的梯度爆炸和梯度消失的问题使得网络层数可以达到很深。

残差连接

2梯度回传深层的梯度可以通过残差的结构直接传递到浅层的网络中。

基于上面的分析提出残差连接结构构建了不同的网络有18、34、50、101、152等。

code_ResNet_Pytorch

ResNet(torchvision.models.resnet.ResNet):def

__init__(self,

resnet18(pretrainedFalse):Constructs

ResNet-18

pretrained:model.load_state_dict(model_zoo.load_url(model_urls[resnet18]))return

modeldef

resnet34(pretrainedFalse):Constructs

ResNet-34

pretrained:model.load_state_dict(model_zoo.load_url(model_urls[resnet34]))return

modeldef

resnet50(pretrainedFalse):Constructs

ResNet-50

pretrained:model.load_state_dict(model_zoo.load_url(model_urls[resnet50]))return

modeldef

resnet50_gn(pretrainedFalse):Constructs

ResNet-50

pretrained:model.load_state_dict(model_zoo.load_url(model_urls[resnet50]))return

modeldef

resnet101(pretrainedFalse):Constructs

ResNet-101

pretrained:model.load_state_dict(model_zoo.load_url(model_urls[resnet101]))return

modeldef

resnet101_gn(pretrainedFalse):Constructs

ResNet-101

resnet152(pretrainedFalse):Constructs

ResNet-152

pretrained:model.load_state_dict(model_zoo.load_url(model_urls[resnet152]))return

model