IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 人工智能 -> tensorrt踩坑随笔 -> 正文阅读

[人工智能]tensorrt踩坑随笔

问题1

onnxruntime.capi.onnxruntime_pybind11_state.InvalidGraph: [ONNXRuntimeError] : 10 : INVALID_GRAPH : Load model from reid_1_3_256_128_static.onnx failed:This is an invalid model. Error in Node: : Unrecognized attribute: min for operator Clip

opset_version版本问题,修改为opset_version=9即可

问题2

[07/22/2021-10:47:32] [W] [TRT] onnx2trt_utils.cpp:198: Your ONNX model has been generated with INT64 weights, while TensorRT does not natively support INT64. Attempting to cast down to INT32.
[07/22/2021-11:17:17] [I] [TRT] Detected 1 inputs and 1 output network tensors.
Segmentation fault

或者

[07/21/2021-17:58:15] [W] [TRT] onnx2trt_utils.cpp:198: Your ONNX model has been generated with INT64 weights, while TensorRT does not natively support INT64. Attempting to cast down to INT32.
[07/21/2021-18:28:05] [I] [TRT] Detected 1 inputs and 1 output network tensors.
[07/21/2021-18:28:08] [E] [TRT] FAILED_ALLOCATION: basic_string::_S_construct null not valid
[07/21/2021-18:28:08] [E] Engine serialization failed
[07/21/2021-18:28:08] [E] Saving engine to file failed
Segmentation fault

或者

tensort trt TypeError: a bytes-like object is required, not 'NoneType' python-BaseException
用pycharm会有TRT OutOfMemory Error in computeCosts: 0

表现症状为有trt文件生成,但是大小为0,无法正常保存
解决方法
说明版本、流程等都没有问题,因为有报OutOfMemory的问题,猜测问题可能是机器配置问题?换个服务器试试。
但换了个好点的服务器仍然不行,但是另一台服务器因为cuda版本高,换了高版本的tensorrt就可以了。。。但需注意:cuda版本和tensorrt版本需一致,否则拿回来的模型可能会出现加载不了的问题.显卡不同也可能会有这个问题。
最终确定是版本问题,tensorrt7.0.0.11就是会偶尔出现这个问题,无法正常保存,换个高版本就可以。低版本会有其他问题,tensorrt5、6都不推荐使用
点此参考

========================================================
trtexec error while loading shared libraries: libcudart.so.10.2: cannot open…
解决方法
tensorrt和cuda版本不对,用nvcc -V查看版本,重新装一下tensorrt就好了

========================================================
Reading engine from file reid_1_3_256_128_static_view1.trt
[TensorRT] ERROR: INVALID_ARGUMENT: getPluginCreator could not find plugin InstanceNormalization_TRT version 1
[TensorRT] ERROR: safeDeserializationUtils.cpp (322) - Serialization Error in load: 0 (Cannot deserialize plugin since corresponding IPluginCreator not found in Plugin Registry)
[TensorRT] ERROR: INVALID_STATE: std::exception
[TensorRT] ERROR: INVALID_CONFIG: Deserialize the cuda engine failed.
Traceback (most recent call last):
File “demo_trt.py”, line 200, in
main(engine_path, image_path, image_size)
File “demo_trt.py”, line 129, in main
with get_engine(engine_path) as engine, engine.create_execution_context() as context:
AttributeError: enter
解决
Finally, I found need to init the plugin first.

trt.init_libnvinfer_plugins(trt.Logger(trt.Logger.WARNING), "")

参考

  人工智能 最新文章
2022吴恩达机器学习课程——第二课(神经网
第十五章 规则学习
FixMatch: Simplifying Semi-Supervised Le
数据挖掘Java——Kmeans算法的实现
大脑皮层的分割方法
【翻译】GPT-3是如何工作的
论文笔记:TEACHTEXT: CrossModal Generaliz
python从零学(六)
详解Python 3.x 导入(import)
【答读者问27】backtrader不支持最新版本的
上一篇文章      下一篇文章      查看所有文章
加:2021-07-30 22:43:54  更:2021-07-30 22:44:24 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/17 20:46:12-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码