一、版本选择
Ubuntu 18.04+python3.7+CUDNN 8.2.0+CUDA11.3
+TensorRT8.2+Pytorch1.10.1+Tensorflow-gpu2.6
RTX3060只能在CUDA11.1以上调用
二、安装
1、cuda11.3
- 安装链接
CUDA Toolkit 11.3 Downloads | NVIDIA Developer
如果之前你已经安装好了nvidia 驱动，那在执行 sudo sh cuda_11.2.0_460.27.04_linux.run 安装过程中，不要勾选 driver那一栏，选择不安装(否则会有冲突发生)，接着直接continue就可以了。原来有cuda先卸载
?
- 卸载原有cuda
sudo apt-get remove cuda
sudo apt autoremove
sudo apt-get remove cuda*然后切换到CUDA所在目录：
cd /usr/local/
删除CUDA-11.0目录：
sudo rm -r cuda-11.0- 查看cuda版本
cat /usr/local/cuda/version.txt
nvcc --version?2、安装cuDNN 8.2.0
https://developer.nvidia.com/rdp/cudnn-archive
?sudo dpkg -i libcudnn8_ 按一定顺序安装
? 3、配置环境变量
安装完cuda和cuDNN之后开始配置环境变量
sudo gedit ～/.bashrc 然后输入以下内容：
export PATH=/usr/local/cuda-11.3/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.3/lib64:$LD_LIBRARY_PATH
source ~/.bashrc 激活环境4、安装pytorch
建立一个新的工作环境
conda create -n pytorch python=3.7?在镜像网站上下载相应的pytorch版本
Index of /anaconda/cloud/pytorch/linux-64/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror
conda install测试程序
import torch
flag = torch.cuda.is_available()
print(flag)
ngpu= 1
# Decide which device we want to run on
device = torch.device("cuda:0" if (torch.cuda.is_available() and ngpu > 0) else "cpu")
print(device)
print(torch.cuda.get_device_name(0))
print(torch.rand(3,3).cuda()) 5、安装tensorflow-gpu
6、安装TensorRT8.0
https://developer.nvidia.com/nvidia-tensorrt-8x-download
os="ubuntuxx04"
tag="cudax.x-trt8.x.x.x-yyyymmdd"
sudo dpkg -i nv-tensorrt-repo-${os}-${tag}_1-1_amd64.deb
sudo apt-key add /var/nv-tensorrt-repo-${os}-${tag}/7fa2af80.pub
sudo apt-get update
sudo apt-get install tensorrt