一. 简介 ONNX (Open Neural Network Exchange)- 开放神经网络交换格式,作为框架共用的一种模型交换格式,使用 protobuf 二进制格式来序列化模型,可以提供更好的传输性能我们可能会在某一任务中将 Pytorch 或者 TensorFlow 模型转化为 ONNX 模型(ONNX 模型一般用于中间部署阶段),然后再拿转化后的 ONNX模型进而转化为我们使用不同框架部署需要的类型,ONNX 相当于一个翻译的作用。典型的几个线路:
- Pytorch->ONNX->TensorRT
- Pytorch->ONNX->TVM
- Tensorflow->ONNX->NCNN
- Pytorch->ONNX->Tensorflow
二. ONNX结构分析 ONNX将每一个网络的每一层或者说是每一个算子当作节点Node,再由这些Node去构建一个Graph,相当于是一个网络。最后将Graph和这个onnx模型的其他信息结合在一起,生成一个model,也就是最终的.onnx的模型。 构建一个简单的onnx模型,实质上,只要构建好每一个node,然后将它们和输入输出超参数一起塞到graph,最后转成model就可以了。示例信息如下:
onnx.helper----node、graph、model 在构建onnx模型这个过程中,这个文件至关重要。其中make_node、make_graph、make_
|