本文主要是对MindSpore框架下实现的MMoE网络在Ascend310平台上进行推理流程的介绍。
总体流程
1.首先在Ascend910场景下，将保存好的ckpt文件使用export.py文件转换为MindIR格式。
2.将数据预处理为.bin格式
3.使用处理好的MINDIR格式的模型和预处理好的数据进行模型预测
4.计算评价指标
5.打印结果
推理过程涉及相关脚本
- export.py
- preprocess.py
- main.cc
- postprocess.py
export.py
输入：ckpt文件
输出：.mindir文件
在910场景下将ckpt文件转换为MINDIR格式
1.将此前训练得到的ckpt导入网络
2.构造一个推理时的模型输入
3.导出mindir文件
preprocess.py
对数据集census-income进行预处理，将其转换为.bin格式。
输入：原始数据集
输出：.bin格式数据集
?main.cc
这一步进行模型预测
输入：预处理完成后的数据集
输出：./result_Files自定义
Postprocess.py
实现预测的结果和对应标签计算评估指标
输入：标签文件和预测结果文件
输出：对应评估指标值
注意：评估指标可按照eval.py修改
执行主函数
将执行脚本放在./scripts目录下。
首先从命令行获取必要参数，参数数量错误时报错，接着使用get_real_path()函数将相对路径转换为绝对路径。继续配置环境变量。执行数据预处理、编译、推理、评价指标计算。
可能出现的错误
??????undefined reference to ‘google::FlagRegisterer::FlagRegisterer_weixin_43767344的博客-CSDN博客