0. 电脑环境(此环境可供参考，因为本人在配置时，尝试不少版本间的配合使用！！！难受！！！)
????????tensorrt的安装推荐
系统：Ubuntu 18.04
cuda: 10.2
cudnn: 8.0.2(推荐配置8.2.1)
torch: 1.10.0
torchvision: 0.11.2
Tensorrt: 8.2.3.0(推荐此版本，在我使用中，其他版本的容易有兼容性问题)1. pytorch转onnx参考如下博客进行转换：
Pytorch分类模型转onnx以及onnx模型推理 - 知乎（一）Pytorch分类模型转onnx 参考：PyTorch之保存加载模型PyTorch学习：加载模型和参数_lscelory的博客-CSDN博客_pytorch 加载模型 实验环境：Pytorch1.4 + Ubuntu16.04.5 1.Pytorch之保存加载模型1.1 当提到保存…
https://zhuanlan.zhihu.com/p/159379768??????? 按照上面的方法使用，在进行onnx转trt时会报动态batch的错误，因此，需要改成静态batch，把torch.onnx.export()部分改写为：
torch.onnx.export(model_yolov3,
x,
export_onnx_file,
opset_version=11,
export_params=True,
input_names=["input"], # 输入名
output_names=["output"] # 输出名
)2. 生成onnx文件之后，需要转成trt文件进行模型的推理。
????????onnx转trt参考如下博客进行转换,使用onnx2trt工具进行转换：
TensorRT教程4：使用onnx2trt工具转engine_米斯特龙_ZXL的博客-CSDN博客_onnx2trt使用onnx2trt工具转engineonnx-tensorrt 地址：https://gitee.com/Mr_xiaolong/onnx-tensorrt1、安装onnx2trt注意我用的trt7.2.3.4版本#克隆master分支到本地，因为默认master分支是7.2.3.4git clone https://gitee.com/Mr_xiaolong/onnx-tensorrt.gitgit submodule init#子模块初始化git submodule update #更新https://blog.csdn.net/weixin_41562691/article/details/118277630????????注：我使用的是cuda10.2，有2个补丁需要下载安装，如果未安装，会报下面的错误。
[2021-07-26 07:16:07 ERROR] 2: [ltWrapper.cpp::setupHeuristic::327] Error Code 2: Internal Error (Assertion cublasStatus == CUBLAS_STATUS_SUCCESS failed.)
terminate called after throwing an instance of 'std::runtime_error'
what(): Failed to create object
已放弃 (核心已转储)????????安装方式为
??????? ????????1. 下载补丁1、2
??????? ????????2. 运行：sudo sh cuda_10.2.1_linux.run 进行安装。安装时，去掉CUDA Toolkit 10.2选? 项，因为已经安装。