IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> Python知识库 -> 1、python中使用tensorrt进行加速推理(全网最全,不信你打我) -> 正文阅读

[Python知识库]1、python中使用tensorrt进行加速推理(全网最全,不信你打我)

本文向所有亲们介绍在python当中配置tensorrt环境、使用tensorrt环境进行推理的教程,主要分为两大部分,第一部分环境配置,第二部分前向推理。

第一部分 环境配置

第一步:检查你的系统类型、cuda、cudnn版本,其中cuda查看命令及本人环境显示如下:

    nvcc -V

显示如下

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2021 NVIDIA Corporation
Built on Wed_Jun__2_19:15:15_PDT_2021
Cuda compilation tools, release 11.4, V11.4.48
Build cuda_11.4.r11.4/compiler.30033411_0

查看ubuntu系统信息命令:

sudo lsb_release -a

显示如下:

o LSB modules are available.
Distributor ID:	Ubuntu
Description:	Ubuntu 18.04.6 LTS
Release:	18.04
Codename:	bionic

第二步官方下载链接下载tensorrt包。注意,需要亲亲注册哦,不然无法下载的啦。本人下载的是tar格式的
在这里插入图片描述
第三步:解压文件:

tar -xvf TensorRT-8.4.3.1.Linux.x86_64-gnu.cuda-11.6.cudnn8.4.tar.gz

第四部:激活你的当前python环境的情况下,进入你的解压包,安装对应python版本的tensorrt文件。在python文件夹下的内容如下,可以看到有好几个python对应版本的tensorrt,选择亲亲当前环境下的python版本进行安装就可以了,我的python版本是3.8,我就安装tensorrt-8.4.3.1-cp38-none-linux_x86_64.whl。

cd TensorRT-8.4.3.1/python/
pip install tensorrt-8.4.3.1-cp38-none-linux_x86_64.whl

第五步: 这下亲亲是不是觉得已经安装完成了可以使用了,当然不是,此时,一旦你在python中导入tensorrt时,会显示找不到包了的。所以,亲亲们要把解压出来的tensorrt文件当中的lib添加到环境变量当中哦!

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/opt/TensorRT-8.4.3.1/lib

当然了,你还可以把lib和include中的所有文件复制到系统路径下面,命令如下:

sudo cp -r /opt/TensorRT-8.4.3.1/lib/* /usr/lib
sudo cp -r /opt/TensorRT-8.4.3.1//include/* /usr/include

第六步:检查python中tensorrt是否安装成功

>>> import tensorrt as tr
>>> tr.__version__
'8.4.3.1'
>>> 

至此,python中配置tensorrt环境就完成了(码字不易,赶紧点赞,别想白嫖)

第二部分 使用python+tensorrt进行模型推理

亲亲们,明日更新,今日寡人有些累,可能赞太少了。。。

  Python知识库 最新文章
Python中String模块
【Python】 14-CVS文件操作
python的panda库读写文件
使用Nordic的nrf52840实现蓝牙DFU过程
【Python学习记录】numpy数组用法整理
Python学习笔记
python字符串和列表
python如何从txt文件中解析出有效的数据
Python编程从入门到实践自学/3.1-3.2
python变量
上一篇文章      下一篇文章      查看所有文章
加:2022-09-24 20:53:29  更:2022-09-24 20:56:18 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/15 9:47:13-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码