cuda、cudnn、tnesorrt的查看安装

1、首先本地查看cuda已安装的版本 11.7
输入命令:【nvcc -V】
输出：
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2022 NVIDIA Corporation
Built on Wed_Jun__8_16:49:14_PDT_2022
Cuda compilation tools, release 11.7, V11.7.99
Build cuda_11.7.r11.7/compiler.31442593_0

1-2、查看cudnn已经安装的版本号 8.5.0
输入命令:【cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2】
输出：
#define CUDNN_MAJOR 8
#define CUDNN_MINOR 5
#define CUDNN_PATCHLEVEL 0
--
#define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)

2、通过在运行环境中查看 cuda 以及cudnn的版本号

本机配置环境:
Ubuntu 22.04
cuda 11.6
NVIDIA GeForce RTX 3070
pytorch 1.12.1
python3.9

如果使用conda 创建的环境需要激活相应的环境
进入相应的环境后
输入命令【python】进入python编译器
输出：
Python 3.9.12 (main, Jun 1 2022, 11:38:51)
[GCC 7.5.0] :: Anaconda, Inc. on linux
Type "help", "copyright", "credits" or "license" for more information.
输入命令【import torch】
【print(torch.__version__)】 输出：torch 的版本号:1.12.1+cu116
【print(torch.version.cuda)】输出: 11.6
【print(torch.backends.cudnn.version())】输出：8500

Ubuntu安装tensorrt 8.2.5.1，cuda对应的版本有（10.2、11.0～11.7），cudnn对应的适配版本有（cudnn8.4.1及以下，或者cudnn8.2.1）

降低cudnn的版本，即将cudnn8.5.0降低至8.4.1

2-1、先删除系统原来的的cudnn
输入命令【sudo rm -rf /usr/local/cuda/include/cudnn.h】
【sudo rm -rf /usr/local/cuda/lib64/libcudnn*】

2-2、解压cudnn-linux-x86_64-8.4.1.50_cuda11.6-archive.tar.xz （下载地址：https://developer.nvidia.com/rdp/cudnn-archive）
输入命令【tar zxvf cudnn-linux-x86_64-8.4.1.50_cuda11.6-archive.tar.xz】

2-3、进入到解压后的文件里
输入命令：
【sudo cp include/cudnn* /usr/local/cuda/include】
【sudo cp lib/lib* /usr/local/cuda/lib64/】
【sudo chmod a+r /usr/local/cuda/include/cudnn*】
【sudo chmod a+r /usr/local/cuda/lib64/libcudnn*】

2-4、验证输入命令：
【cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2】
输出：
#define CUDNN_MAJOR 8
#define CUDNN_MINOR 4
#define CUDNN_PATCHLEVEL 1
--
#define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)

#endif /* CUDNN_VERSION_H */

3、安装 tensorrt

/home/cxf/下载/TensorRT-8.2.5.1.Linux.x86_64-gnu.cuda-10.2.cudnn8.2.tar.gz
首先解压该包,并进入解压后的文件
进入环境【conda activate 环境名】
查看python的版本
输出：
bin data doc graphsurgeon include lib onnx_graphsurgeon python samples targets uff

添加环境 【vim ~/.bashrc】
文件最后一行 输入【export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/xxx/environment/TensorRT-8.2.5.1/lib】（本机将TensorRT-8.2.5.1包放在/home/xxx/environment目录下）
【source ~/.bashrc】
分别进入python、graphsurgeon、uff文件夹下安装相应文件（直接pip install 包名），其中进入python文件，安装环境对应的python版本文件

验证
输入【python】
【import tensorrt】
【tensorrt.__version__】

Python 3.9.16 | packaged by conda-forge | (main, Feb 1 2023, 21:39:03)
[GCC 11.3.0] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> import tensorrt
>>> tensorrt.__version__
'8.2.5.1'
>>>