据准备

此次两个分类实验中一个是经典的knn聚类算法一种是轻量级cnn网络都是基于较轻资源可以实现的任务。

实验1K近邻算法实现红酒聚类

KNN是一种用于分类和回归的非参数统计方法于1968年提出(Cover等人,1967)。

找出该样本与所有样本的中距离最近的K个样本统计这K个样本的类别并投票投票最多的类别即确定为该样本的类别。

knn的3个要素

K值一个样本的分类是由K个邻居的“多数表决”确定的。

K值越小容易受噪声影响反之会使类别之间的界限变得模糊。

k的取值可以根据问题和数据特点来确定。

在具体实现时可以考虑样本的权重即每个样本有不同的投票权重这种方法称为带权重的k近邻算法它是一种变种的k近邻算法。

如带样本权重的回归预测函数为其中

为第个

距离度量反映了特征空间中两个样本间的相似度距离越小越相似。

常用的有Lp距离p2时即为欧式距离、曼哈顿距离、海明距离、切比雪夫距离等。

分类决策规则通常是多数表决或者基于距离加权的多数表决权值与距离成反比。

数据准备

Wine数据集是模式识别最著名的数据集之一Wine数据集的官网Wine

Data

Set。

这些数据是对来自意大利同一地区但来自三个不同品种的葡萄酒进行化学分析的结果。

数据集分析了三种葡萄酒中每种所含13种成分的量。

这些13种属性是

Alcohol酒精Malic

phenols总酚Flavanoids类黄酮Nonflavanoid

phenols非黄酮酚Proanthocyanins原花青素Color

diluted

方式一从Wine数据集官网下载wine.data文件。

方式二从华为云OBS中下载wine.data文件。

共178条数据其中1类是1-59行2类是60-130行3类是131-178行。

取两个属性观察样本分布情况和可区分性如下图。

import

Y[test_idx]print(np.shape(X_train))

###

TopK等算子通过矩阵运算的方式同时计算输入样本x和已明确分类的其他样本X_train的距离欧式距离并计算出top

class

X_train):#平铺输入x以匹配X_train中的样本数即复制x到128份与X_train一样的维度方便计算。

x_tile

ops.tile(x,

ops.sqrt(square_dist)#-dist表示值越大样本就越接近:

沿给定维度查找k个最大或最小元素和对应的索引需要排序的维度dimsNone,因为是1维。

默认

sortedTrue

indices.asnumpy():topk_cls[Y_train[idx]]

1cls

Y_train[idx]为k5个样本对应的类别进行统计取统计值最大的类别np.argmax(topk_cls)即为分类结果。

模型预测

根据下图演示说明KNN算法在该3分类任务上有效能根据酒的13种属性判断出酒的品种。

多次改变k测试效果一般验证精度不超过80%。

MobileNet网络是由Google团队于2017年提出的专注于移动端、嵌入式或IoT设备的轻量级CNN网络相比于传统的卷积神经网络MobileNet网络使用深度可分离卷积Depthwise

Separable

Convolution的思想在准确率小幅度降低的前提下大大减小了模型参数与运算量。

并引入宽度系数

α和分辨率系数

由于MobileNet网络中Relu激活函数处理低维特征信息时会存在大量的丢失所以MobileNetV2网络提出使用倒残差结构Inverted

residual

Bottlenecks来设计网络以提高模型的准确率且优化后的模型更小。

如下图Inverted

block结构是先使用1x1卷积进行升维然后使用3x3的DepthWise卷积最后使用1x1的卷积进行降维与Residual

block是先使用1x1的卷积进行降维然后使用3x3的卷积最后使用1x1的卷积进行升维。

任务说明

通过读取本地图像数据作为输入对图像中的垃圾物体进行检测并且将检测结果图片保存到文件中。

数据集

权重文件https://ascend-professional-construction-dataset.obs.cn-north-4.myhuaweicloud.com:443/ComputerVision/mobilenetV2-200_1067.zip数据文件https://ascend-professional-construction-dataset.obs.cn-north-4.myhuaweicloud.com:443/MindStudio-pc/data_en.zip环境添加pip

install

CheckpointConfigos.environ[GLOG_v]

Log

os.environ[GLOG_stderrthreshold]

输出到目录也输出到屏幕3(ERROR),

https://ascend-professional-construction-dataset.obs.cn-north-4.myhuaweicloud.com:443/ComputerVision/mobilenetV2-200_1067.zip

path

https://ascend-professional-construction-dataset.obs.cn-north-4.myhuaweicloud.com:443/MindStudio-pc/data_en.zip

参数配置训练/验证/推理

0.1],backbone_out_channels:1280,batch_size:

16,eval_batch_size:

用ImageFolderDataset方法读取垃圾分类数据集并整体对数据集进行处理。

读取数据集时指定训练集和测试集首先对整个数据集进行归一化修改图像频道等预处理操作。

然后对训练集的数据依次进行RandomCropDecodeResize、RandomHorizontalFlip、RandomColorAdjust、shuffle操作以增加训练数据的丰富度对测试集进行Decode、Resize、CenterCrop等预处理操作最后返回处理后的数据集。

def

datasetArgs:dataset_path(string):

the

platform.Returns:train_dataset,

val_datasetdata_path

de.ImageFolderDataset(data_path,

class_indexingconfig.class_index)resize_height

config.image_heightresize_width

0.456*255,

C.RandomCropDecodeResize(resize_height,

scale(0.08,

C.RandomHorizontalFlip(prob0.5)color_adjust

C.RandomColorAdjust(brightness0.4,

contrast0.4,

train_ds.map(input_columnslabel,

train_ds.shuffle(buffer_sizebuffer_size)ds

train_ds.batch(config.batch_size,

drop_remainderTrue)else:decode_op

C.Decode()resize_op

C.Resize((int(resize_width/0.875),

int(resize_width/0.875)))center_crop

C.CenterCrop(resize_width)eval_trans

[decode_op,

eval_ds.map(input_columnslabel,

eval_ds.batch(config.eval_batch_size,

dsds

create_dataset(dataset_pathconfig.dataset_path,

configconfig,

ds.create_dict_iterator(output_numpyTrue)._get_next()

images

i)plt.imshow(np.transpose(images[i],

class_en[labels[i]])plt.xticks([])

plt.show()

2通过定义construct方法来完成神经网络的前向构造。

原始模型激活函数为ReLU6池化模块采用是全局平均池化层。

__all__

GlobalAvgPooling(nn.Cell):Global

avg

definition.Args:Returns:Tensor,

output

__init__(self):super(GlobalAvgPooling,

self).__init__()def

ConvBNReLU(nn.Cell):Convolution/Depthwise

fused

paddingpadding)else:out_channels

in_planesconv

InvertedResidual(nn.Cell):Mobilenetv2

residual

expand_ratio):super(InvertedResidual,

stride

expand_ratio))self.use_res_connect

stride

1:layers.append(ConvBNReLU(inp,

hidden_dim,

kernel_size1))layers.extend([ConvBNReLU(hidden_dim,

groupshidden_dim),nn.Conv2d(hidden_dim,

oup,

has_biasFalse),nn.BatchNorm2d(oup),])self.conv

nn.SequentialCell(layers)self.cast

P.Cast()def

MobileNetV2Backbone(nn.Cell):MobileNetV2

(int):

MobileNetV2(num_classes1000)def

__init__(self,

round_nearest8,input_channel32,

last_channel1280):super(MobileNetV2Backbone,

InvertedResidual#

round_nearest)self.out_channels

max(1.0,

1features.append(block(input_channel,

output_channel,

output_channelfeatures.append(ConvBNReLU(input_channel,

self.out_channels,

nn.SequentialCell(features)self._initialize_weights()def

construct(self,

_initialize_weights(self):Initialize

weights.Args:Returns:None.Examples:

_initialize_weights()self.init_parameters_data()for

isinstance(m,

m.out_channelsm.weight.set_data(Tensor(np.random.normal(0,

np.sqrt(2.

n),m.weight.data.shape).astype(float32)))if

m.bias

None:m.bias.set_data(Tensor(np.zeros(m.bias.data.shape,

dtypefloat32)))elif

nn.BatchNorm2d):m.gamma.set_data(Tensor(np.ones(m.gamma.data.shape,

dtypefloat32)))m.beta.set_data(Tensor(np.zeros(m.beta.data.shape,

self.featuresclass

MobileNetV2Head(nn.Cell):MobileNetV2

(int):

MobileNetV2(num_classes1000)def

__init__(self,

activationNone):super(MobileNetV2Head,

self).__init__()#

nn.SequentialCell(head)self.need_activation

Trueif

nn.Softmax()else:self.need_activation

Falseself._initialize_weights()def

construct(self,

_initialize_weights(self):Initialize

weights.Args:Returns:None.Examples:

_initialize_weights()self.init_parameters_data()for

isinstance(m,

nn.Dense):m.weight.set_data(Tensor(np.random.normal(0,

0.01,

m.weight.data.shape).astype(float32)))if

m.bias

None:m.bias.set_data(Tensor(np.zeros(m.bias.data.shape,

self.headclass

MobileNetV2(nn.Cell):MobileNetV2

(int):

last_channel1280):super(MobileNetV2,

MobileNetV2Backbone(width_multwidth_mult,

\inverted_residual_settinginverted_residual_setting,

last_channellast_channel).get_featuresself.head

MobileNetV2Head(input_channelself.backbone.out_channel,

\has_dropouthas_dropout).get_headdef

construct(self,

MobileNetV2Combine(nn.Cell):MobileNetV2Combine

(Cell):

MobileNetV2(num_classes1000)def

__init__(self,

head):super(MobileNetV2Combine,

self).__init__(auto_prefixFalse)self.backbone

backboneself.head

一般情况下模型训练时采用静态学习率如0.01。

随着训练步数的增加模型逐渐趋于收敛对权重参数的更新幅度应该逐渐降低以减小模型训练后期的抖动。

所以模型训练时可以采用动态下降的学习率常见的学习率下降策略有

polynomial

lr_endlr_all_steps.append(lr)return

lr_all_steps

模型训练过程中可以添加检查点Checkpoint用于保存模型的参数以便进行推理及中断后再训练使用。

使用场景如下

微调场景

这里加载ImageNet数据上预训练的MobileNetv2进行Fine-tuning只训练最后修改的FC层并在训练过程中保存Checkpoint。

def

Ascend:net.to_float(data_type)for

cell

nn.Dense):cell.to_float(ms.float32)

模型训练与测试

训练之前定义训练函数读取数据并对模型进行实例化定义优化器和损失函数。

在训练MobileNetV2之前对MobileNetV2Backbone层的参数进行了固定使其在训练过程中对该模块的权重参数不进行更新只对MobileNetV2Head模块的参数进行更新。

from

create_dataset(dataset_pathconfig.dataset_path,

configconfig)

create_dataset(dataset_pathconfig.dataset_path,

configconfig)

train_dataset.get_dataset_size()backbone

#last_channelconfig.backbone_out_channels

Freeze

backbone.get_parameters():param.requires_grad

False

load_checkpoint(config.pretrained_ckpt,

backbone)head

MobileNetV2Head(input_channelbackbone.out_channels,

network

nn.SoftmaxCrossEntropyWithLogits(sparseTrue,

reductionmean)

FixedLossScaleManager(LOSS_SCALE,

lrs

nn.Momentum(network.trainable_params(),

lrs,

定义微分函数使用mindspore.value_and_grad获得微分函数grad_fn,输出loss和梯度。

#

None,

dataset.get_dataset_size()model.set_train()for

batch,

enumerate(dataset.create_tuple_iterator()):loss

train_step(data,

dataset.get_dataset_size()model.set_train(False)total,

test_loss,

dataset.create_tuple_iterator():pred

model(data)total

label).asnumpy().sum()test_loss

num_batchescorrect

{t1}\n-------------------------------)train_loop(network,

train_dataset,

opt)ms.save_checkpoint(network,

save_mobilenetV2_model.ckpt)end_time

time.time()times

加载模型Checkpoint进行推理使用load_checkpoint接口加载数据时需要把数据传入给原始网络而不能传递给带有优化器和损失函数的训练网络。

CKPTsave_mobilenetV2_model.ckptdef

one

image.transpose((2,0,1))img_tensor

np.float32))return

Image.open(image_path).resize((config.image_height,

network(image_process(image))pred

class_en[pred])def

MobileNetV2Backbone(last_channelconfig.backbone_out_channels)head

MobileNetV2Head(input_channelbackbone.out_channels,

num_classesconfig.num_classes)network

network)for

fdata_en/test/Cardboard/000{i}.jpg)

infer()

DK上的模型转换与推理。

当前仅支持MindSporeAscend环境。

backbone

MobileNetV2Backbone(last_channelconfig.backbone_out_channels)

head

MobileNetV2Head(input_channelbackbone.out_channels,

network