努力为大家带来持续的技术分享#xff0c;如果你也喜欢我的文章#xff0c;就点个关注吧

大家好我是刘明明志科技创始人华为昇思MindSpore布道师。

MindSpore官网提供了一份在使用MindSpore过程中的

FAQ

MindSpore目前支持在昇腾、GPU、CPU等多种设备上运行但在安装过程中需要注意选择配套的硬件平台、操作系统、Python版本否则会出现很多不可预测的报错。

详细可参考

安装指导

怎么将PyTorch的dataset转换成MindSpore的dataset

MindSpore和PyTorch的自定义数据集逻辑是比较类似的首先需要用户先定义一个自己的

dataset

__init__(self):np.random.seed(58)self.__data

np.random.sample((5,

ds.GeneratorDataset(dataset_generator,

[data,

取值时会有越界问题。

如数据集大小未确定可以使用可迭代数据集详见

自定义数据集

进行加载/处理数据时可能会因为语法错误、计算溢出等问题导致数据报错如何进行排查和调试

观察报错栈信息由报错栈信息大概定位到出错代码块在出错的代码块附近添加打印或调试点进一步调试。

详细可参考

数据处理调试方法一

在训练的时候会获得非常多warning提示我们数据集性能较慢应该怎么处理

可以单独迭代数据集查看每条数据的处理时间以此判断数据集的性能如何。

详细可参考

数据处理调试方法三

在对数据进行处理的过程中如果因为计算错误、数值溢出等因素产生了异常的结果数值从而导致训练网络时算子计算溢出、权重更新异常等问题该怎么排查

关闭混洗固定随机种子确保可重现性然后利用NumPy等工具快速校验结果。

详细可参考

数据处理调试方法四

MindSpore提供了自动的梯度求导接口该功能对用户屏蔽了大量的求导细节和过程。

但如果有某些特殊场景用户需要手动控制其反向的计算用户也可以通过Cell.bprop接口对其反向进行定义。

详细可参考

自定义Cell反向

请问想加载PyTorch预训练好的模型用于MindSpore模型finetune有什么方法

需要把PyTorch和MindSpore的参数进行一一对应因为网络定义的灵活性所以没办法提供统一的转化脚本。

一般情况下CheckPoint文件中保存的就是参数名和参数值调用相应框架的读取接口后获取到参数名和数值后按照MindSpore格式构建出对象就可以直接调用MindSpore接口保存成MindSpore格式的CheckPoint文件了。

其中主要的工作量为对比不同框架间的parameter名称做到两个框架的网络中所有parameter

name一一对应(可以使用一个map进行映射)下面代码的逻辑转化parameter格式不包括对应parameter

import

torch.load(default_file)[state_dict]params_list

[]for

ms.Tensor(parameter.numpy())params_list.append(param_dict)ms.save_checkpoint(params_list,

ms_resnet.ckpt)

精度不达标一般体现在loss不收敛上。

但是有很多复杂的原因可导致精度达不到预期定位难度较大。

这里提供几个指导链接供用户逐一排查问题。

模型训练过程中第一个step包含网络编译时长如果想要优化第一个step的性能可分析模型编译是否能进行优化。

详细可参考

静态图网络编译性能优化

模型训练过程中非首个step的耗时包括迭代间隙、前反向计算和迭代拖尾如果想要优化非首step的性能需要先获取网络的迭代轨迹再分析哪部分是性能瓶颈最近进行性能优化。

性能调优指南

加载标杆权重进行模型推理验证正向流程时有warning警告显示权重未加载成功该如何解决

load_checkpoint过程中如果有权重未加载上MindSpore会给出warning提示一般加载失败有两种原因1、权重名称对不上2、权重在网络中缺失。

如果权重名称对不上需要打印MindSpore的权重名称和标杆的权重名称看是否MindSpore的权重名称多了backbone或network等前缀如果是检查MindSpore在初始化

Cell

如果权重名称缺失需要分析是否合理如果合理可忽略告警提示如果不合理需要分析网络定义是否错误进行定位修改。

迁移过程使用PyNative进行调测流程成功切换成Graph模式为什么会出现一堆的报错

PyNative模式下模型进行推理的行为与一般Python代码无异。

但是切换成Graph模式时MindSpore通过源码转换的方式将Python的源码转换成中间表达IRIntermediate

Representation并在此基础上对IR图进行优化最终在硬件设备上执行优化后的图。

而这一步操作中MindSpore目前还未能支持完整的Python语法全集所以construct函数的编写会存在部分限制。

如PyNative模式下可直接判断某个Tensor值是否为0但切换成Graph模式则会报错不支持。

response