再看一下效果:

咳咳最近刚做了一个训练集有1143张分为5类里面图片是打乱的。

测试集有248张想把它分分类看看咋样。

再看一下效果:

这是经过100轮训练后准确率。

准确率最高也就72%左右要想再升高就要改变数据集或者改网络了

预测第一张图属于第二类它的确也确实属于第二类但第二张图预测它是第二类但是它事实上属于第四类。

一、明确知道代码结构流程

MNIST、Fashion-MNIST、EMNIST、COCO、LSUN、ImageFolder、DatasetFolder、Imageenet-12、CIFAR、STL10

CIFAR-10

该数据集包含10个类别的60000张32x32彩色图像每类有6000张图像。

其中有50000张用于训练10000张用于测试。

数据集被分为五个训练批次和一个测试批次每批包含10000张图像。

测试批次包含每个类别中随机选取的1000张图像。

训练批次按照随机顺序包含剩余的图像但有些训练批次可能包含某一类图像的数量多于另一类。

在它们之间训练批次包含每类5000张图像.)

下载并配置数据集及加载器

transforms.Compose([transforms.Resize((96,

96)),

datasets.CIFAR10(rootrD:\SH1\CIFAR,

trainTrue,

datasets.CIFAR10(rootrD:\SH1\CIFAR,

trainFalse,

DataLoader(datasettrain_dataset,batch_sizebatch_size,

shuffleTrue)

DataLoader(datasettest_dataset,batch_sizebatch_size,

shuffleTrue)

transforms.Compose([transforms.Resize((96,

96)),

datasets.CIFAR10(rootrD:\SH1\CIFAR,

trainTrue,

train_dataset指定了数据集的根目录和使用的数据转换操作。

test_dataset

datasets.CIFAR10(rootrD:\SH1\CIFAR,

trainFalse,

test_dataset同样指定了数据集的根目录和使用的数据转换操作。

batch_size

DataLoader(datasettrain_dataset,

shuffleTrue):

train_loader用于加载训练数据集指定了数据集、批量大小和是否打乱数据顺序。

test_loader

DataLoader(datasettest_dataset,

shuffleTrue):

test_loader用于加载测试数据集同样指定了数据集、批量大小和是否打乱数据顺序。

整理标签

以上上周我们老师给我的数据集为例。

老师给我的数据集里面包含训练集和测试集以及相应的标签。

image

pd.read_csv(Training_labels.csv)

df_test

pd.read_csv(Testing_labels.csv)#

提取所需字段

new_df_train.to_csv(train_labels.csv,

indexFalse)

new_df_test.to_csv(test_labels.csv,

indexFalse)所以我通过上面的代码将第一列和第二列进行了提取并且改成了filename,

定义一个自定义数据集类

pd.read_csv(csv_file)self.root_dir

transformdef

transformNone):定义了类的初始化方法接受三个参数csv_file

CSV

try...except...尝试打开图像文件如果文件不存在则捕获

FileNotFoundError

self.transform(image)如果存在数据转换操作则对图像进行相应的转换。

13.

transforms.Compose([transforms.Resize((96,

96)),

CustomDataset(csv_filetrain_labels.csv,

root_dirtraining,

CustomDataset(csv_filetest_labels.csv,

root_dirtesting,

由于这个代码和下载并配置CIFAR-10数据集及加载器的代码差不多刚才仔细讲过了所以这里就不再讲一遍了

设计模型

我们用的是ResNet-18网络要想更好的理解这个网络我们需要了解一个知识点----残差块。

ResNet-18

connection来缓解深层神经网络中的梯度消失问题从而使得训练更深层的网络成为可能。

具体来说

跳跃连接在每个残差块中通过将输入直接与输出相加即跳跃连接实现了从底层到顶层的直接信息传递。

这种跳跃连接有助于梯度的流动避免了梯度在深层网络中逐渐消失的问题。

缓解梯度消失由于跳跃连接的存在即使在深层网络中梯度可以通过跳跃连接直接传播到较浅层从而减轻了梯度消失问题使得网络更容易训练。

增强网络性能残差块的设计使得网络更加深层时仍能保持较好的性能因为网络可以更好地学习残差即残差块的输出与输入之间的差异而不是直接学习原始特征。

经典CNN网络Resnet18网络结构输入和输出[通俗易懂]-腾讯云开发者社区-腾讯云

(tencent.com)

strides1):super().__init__()self.conv1

padding1,

nn.BatchNorm2d(num_channels)self.bn2

nn.BatchNorm2d(num_channels)def

forward(self,

self.bn1(...):对卷积层的输出应用第一个批量归一化层F.relu(...):

F.relu(self.bn1(self.conv1(X)))#

self.conv3:X

将输入X或经过1x1卷积层的X加到Y上实现残差连接。

return

F.relu(Y)

F.relu(self.bn1(self.conv1(X))):

应用第一个卷积层、批量归一化和

ReLU激活函数nn.MaxPool2d(kernel_size3,

stride2,

num_residuals,first_blockFalse):blk

blk

列表中。

blk.append(Residual(input_channels,

strides2))else:blk.append(Residual(num_channels,

num_channels))

nn.Sequential(*resnet_block(64,

64,

nn.Sequential(*resnet_block(64,

128,

nn.Sequential(*resnet_block(128,

256,

nn.Sequential(*resnet_block(256,

512,

1)):自适应平均池化层将每个特征图的空间维度高度和宽度缩小到1x1。

nn.Linear(512,

torch.optim.Adam(net.parameters(),

lrlr)

torch.optim.Adam(net.parameters(),

lrlr):

创建了一个交叉熵损失函数用于计算模型输出与真实标签之间的损失。

交叉熵损失通常用于多分类问题特别是在输出层使用

softmax

nn.Conv2d:nn.init.xavier_uniform_(m.weight)#

对模型应用初始化权重函数net.apply(init_weights)#

on:

将模型移动到指定的设备上进行训练net.to(device)#

num_batches

enumerate(train_iter):timer.start()optimizer.zero_grad()

X.to(device),

累积训练损失、准确率和样本数timer.stop()train_l

metric[0]

这里我在SH2文件夹里新建了一个文件夹result,用于存放最后结果os.makedirs(save_dir,

exist_okTrue)#

保存模型torch.save(net.state_dict(),

fResNet-18_SHIYAN_Epoch{epochs}_Accuracy{test_acc

train_loader,

DataLoader(datasettest_dataset,

batch_size1,

创建子图plt.imshow(images.cpu()[0].permute(1,

0))

pd.read_csv(Training_labels.csv)

df_test

pd.read_csv(Testing_labels.csv)#

提取所需字段

new_df_train.to_csv(train_labels.csv,

indexFalse)

new_df_test.to_csv(test_labels.csv,

indexFalse)class

pd.read_csv(csv_file)self.root_dir

transformdef

transforms.Compose([transforms.Resize((96,

96)),

CustomDataset(csv_filetrain_labels.csv,

root_dirtraining,

CustomDataset(csv_filetest_labels.csv,

root_dirtesting,

connection来缓解深层神经网络中的梯度消失问题从而使得训练更深层的网络成为可能。

class

strides1):super().__init__()self.conv1

padding1,

nn.BatchNorm2d(num_channels)self.bn2

nn.BatchNorm2d(num_channels)def

forward(self,

self.bn1(...):对卷积层的输出应用第一个批量归一化层F.relu(...):

F.relu(self.bn1(self.conv1(X)))#

self.conv3:X

将输入X或经过1x1卷积层的X加到Y上实现残差连接。

return

F.relu(Y)#

ReLU激活函数nn.MaxPool2d(kernel_size3,

stride2,

num_residuals,first_blockFalse):blk

blk

列表中。

blk.append(Residual(input_channels,

strides2))else:blk.append(Residual(num_channels,

num_channels))

nn.Sequential(*resnet_block(64,

64,

nn.Sequential(*resnet_block(64,

128,

nn.Sequential(*resnet_block(128,

256,

nn.Sequential(*resnet_block(256,

512,

1)):自适应平均池化层将每个特征图的空间维度高度和宽度缩小到1x1。

nn.Linear(512,

torch.optim.Adam(net.parameters(),

lrlr)

nn.Conv2d:nn.init.xavier_uniform_(m.weight)#

对模型应用初始化权重函数net.apply(init_weights)#

on:

将模型移动到指定的设备上进行训练net.to(device)#

num_batches

enumerate(train_iter):timer.start()optimizer.zero_grad()

X.to(device),

累积训练损失、准确率和样本数timer.stop()train_l

metric[0]

D:\\SH2\\resultos.makedirs(save_dir,

exist_okTrue)#

保存模型torch.save(net.state_dict(),

fResNet-18_CIFAR-10_Epoch{epochs}_Accuracy{test_acc

train_loader,

DataLoader(datasettest_dataset,

batch_size1,

创建子图plt.imshow(images.cpu()[0].permute(1,

0))

附赠用CIFAR-10数据集操作的代码(20轮准确率大概在80%左右

代码1和代码2都差不多代码1和今天讲的差不多就改了一下数据集代码2删减了一部分更改了一些更为简单一点

代码1

transforms.Compose([transforms.Resize((96,

96)),

datasets.CIFAR10(rootrD:\SH1\CIFAR,

trainTrue,

datasets.CIFAR10(rootrD:\SH1\CIFAR,

trainFalse,

DataLoader(datasettrain_dataset,batch_sizebatch_size,

shuffleTrue)

DataLoader(datasettest_dataset,batch_sizebatch_size,

shuffleTrue)#

connection来缓解深层神经网络中的梯度消失问题从而使得训练更深层的网络成为可能。

class

strides1):super().__init__()self.conv1

padding1,

nn.BatchNorm2d(num_channels)self.bn2

nn.BatchNorm2d(num_channels)def

forward(self,

self.bn1(...):对卷积层的输出应用第一个批量归一化层F.relu(...):

F.relu(self.bn1(self.conv1(X)))#

self.conv3:X

将输入X或经过1x1卷积层的X加到Y上实现残差连接。

return

F.relu(Y)#

ReLU激活函数nn.MaxPool2d(kernel_size3,

stride2,

num_residuals,first_blockFalse):blk

blk

列表中。

blk.append(Residual(input_channels,

strides2))else:blk.append(Residual(num_channels,

num_channels))

nn.Sequential(*resnet_block(64,

64,

nn.Sequential(*resnet_block(64,

128,

nn.Sequential(*resnet_block(128,

256,

nn.Sequential(*resnet_block(256,

512,

1)):自适应平均池化层将每个特征图的空间维度高度和宽度缩小到1x1。

nn.Linear(512,

torch.optim.Adam(net.parameters(),

lrlr)

nn.Conv2d:nn.init.xavier_uniform_(m.weight)#

对模型应用初始化权重函数net.apply(init_weights)#

on:

将模型移动到指定的设备上进行训练net.to(device)#

num_batches

enumerate(train_iter):timer.start()optimizer.zero_grad()

X.to(device),

累积训练损失、准确率和样本数timer.stop()train_l

metric[0]

D:\\SH1\\result-1os.makedirs(save_dir,

exist_okTrue)#

保存模型torch.save(net.state_dict(),

fResNet-18_SHIYAN_Epoch{epochs}_Accuracy{test_acc

train_loader,

DataLoader(datasettest_dataset,

batch_size1,

创建子图plt.imshow(images.cpu()[0].permute(1,

0))

transforms.Compose([transforms.Resize((96,

96)),

datasets.CIFAR10(rootrD:\SH1\CIFAR,

trainTrue,

datasets.CIFAR10(rootrD:\SH1\CIFAR,

trainFalse,

DataLoader(datasettrain_dataset,batch_sizebatch_size,

shuffleTrue)

DataLoader(datasettest_dataset,batch_sizebatch_size,

shuffleTrue)class

strides1):super().__init__()self.conv1

padding1,

nn.BatchNorm2d(num_channels)self.bn2

nn.BatchNorm2d(num_channels)def

forward(self,

F.relu(self.bn1(self.conv1(X)))Y

self.conv3:X

nn.ReLU(),nn.MaxPool2d(kernel_size3,

stride2,

num_residuals,first_blockFalse):blk

[]for

first_block:blk.append(Residual(input_channels,

strides2))else:blk.append(Residual(num_channels,

num_channels))return

nn.Sequential(*resnet_block(64,

64,

nn.Sequential(*resnet_block(64,

128,

nn.Sequential(*resnet_block(128,

256,

nn.Sequential(*resnet_block(256,

512,

nn.Conv2d:nn.init.xavier_uniform_(m.weight)net.apply(init_weights)print(fTraining

on:[{device}])net.to(device)optimizer

torch.optim.Adam(net.parameters(),

lrlr)loss

d2l.Accumulator(3)net.train()for

(X,

enumerate(train_iter):timer.start()optimizer.zero_grad()X,

X.to(device),

y)l.backward()optimizer.step()with

X.shape[0],

{test_acc*100:.2f}%)print(f{metric[2]

epochs

[{str(device)}])torch.save(net.state_dict(),fD:\\SH1\\result-2\\ResNet-18_CIFAR-10_Epoch{epochs}_Accuracy{test_acc*100:.2f}%.pth)epochs,

20,

DataLoader(datasettest_dataset,

batch_size1,

shuffleTrue)plt.figure(figsize(12,

8))name

{name[int(labels[0])]}plt.subplot(3,

1)plt.imshow(images.cpu()[0].permute(1,

0))plt.title(title,

fontsize10)plt.xticks([])plt.yticks([])plt.show()show_predict()