windows上tensorrt国内镜像下载和安装教程

发布于:2025-06-11 ⋅ 阅读:(27) ⋅ 点赞:(0)

tensorrt安装步骤在windows上安装步骤大同小异,以下是在Windows 10上安装TensorRT 10.9.0.34(配合CUDA 11.8和cuDNN 8.9.7)的完整步骤,可以参考安装这个流程,做到举一反三:


检查显卡配置,查询可支持的cuda版本
win左下角搜索cmd打开命令行窗口,输入nvidia-smi
在这里插入图片描述
可以看到显卡最高支持到cuda12.9,我们在后续的cuda版本中要选择12.9以下的。

1. 安装CUDA 11.8

  1. 下载CUDA 11.8
    访问NVIDIA CUDA Toolkit Archive,选择版本11.8.0,下载Windows平台的安装包(如cuda_11.8.0_522.06_windows.exe)。如果下载不下来可以尝试国内镜像下载地址github.com/futureflsl/cuda_cudnn_mirror,里面包含常见的cuda和cudnn版本可供选择,一般都是百度云盘下载即可。

  2. 运行安装程序

    • 双击安装包,选择“自定义”安装(推荐)。
    • 确保勾选以下组件:
      • CUDA Toolkit 11.8
      • CUDA Demo Suite(可选)
      • CUDA Documentation(可选)
    • 其他组件(如NVIDIA驱动)若已安装可跳过。
  3. 验证安装
    打开命令提示符,运行:

    nvcc --version
    

    应输出类似:

    nvcc: NVIDIA (R) Cuda compiler version 11.8
    

在这里插入图片描述


2. 安装cuDNN 8.9.7

  1. 下载cuDNN
    访问NVIDIA cuDNN Archive,注册并登录后下载对应CUDA 11.8的cuDNN 8.9.7(如cudnn-windows-x86_64-8.9.7.29_cuda11-archive.zip)。

在这里插入图片描述

  1. 解压并复制文件

    • 解压zip文件,将以下文件夹内容复制到CUDA安装目录(默认C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8):
      • bin\ → 复制到CUDA的bin\
      • include\ → 复制到CUDA的include\
      • lib\ → 复制到CUDA的lib\x64\
  2. 添加环境变量(可选)
    确保CUDA的bin目录已添加到系统PATH。默认安装cuda后会自动加入环境变量因此这个步骤可以省略:

    C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin
    

3. 安装TensorRT 10.9.0.34

  1. 下载TensorRT
    从NVIDIA TensorRT下载页获取TensorRT-10.9.0.34.Windows.win10.cuda-11.8.zip。如果下载不下来可以尝试国内镜像地github.com/futureflsl/tensorrt_cn_mirror进行下载,当然需要自己对应安装好的cuda版本和cudnn版本,否则下载下来是无法正常使用的。因此要根据自己操作系统和cuda版本进行确认下载。如果您是RTX30-40系列显卡,可以使用cuda11以上版本,如果您是使用最新RTX50系列显卡则需要最新的tensorrt版本比如10.10版本。

  2. 解压TensorRT
    将zip解压到目标目录(如C:\TensorRT-10.9.0.34)。

  3. 设置环境变量

    • 添加TensorRT的lib目录到系统PATH
      C:\TensorRT-10.9.0.34\lib
      
    • 创建环境变量TENSORRT_PATH指向TensorRT根目录:
      TENSORRT_PATH = C:\TensorRT-10.9.0.34
      
  4. 安装Python Wheel(可选)
    如需Python支持,安装对应的wheel文件:

    pip install C:\TensorRT-10.9.0.34\python\tensorrt-10.9.0-cp3x-none-win_amd64.whl
    

    (将cp3x替换为你的Python版本,如cp38对应Python 3.8)

  5. 验证安装

    • C++验证:检查lib目录是否被正确链接。在cmd上输入trtexec有显示则表示正常

    • 在这里插入图片描述

    • Python验证

      import tensorrt
      print(tensorrt.__version__)  # 应输出10.9.0
      

4. 测试示例(可选)

运行TensorRT自带的示例(如sample_mnist):

  1. 进入C:\TensorRT-10.9.0.34\samples\sample_mnist
  2. 按照README编译并运行,确保无报错。

常见问题

  1. 版本冲突:确保CUDA、cuDNN、TensorRT版本严格匹配。
  2. PATH问题:重启系统使环境变量生效。
  3. 依赖缺失:安装Visual Studio 2019/2022的C++工具链(MSVC)。

完成以上步骤后,TensorRT环境即可正常使用。