CUDA/cudnn/CUDAToolkit简单区分
pytorch与cuda关系简单介绍
pytorch是一个深度学习的框架,能够调用cuda进行gpu加速。一般来说你的电脑里是有相关cuda的驱动的(可用nvidia-smi命令验证,能运行就说明有,不能运行去搜索安装),所以要在anaconda虚拟环境里安装pytorch就不用安装cuda了
安装教程
一、查看电脑CUDN版本
在cmd(windows)或者终端(linux)输入命令:
nvidia-smi
下图是我电脑的示例
其中CUDA Version后是指最高支持的cuda版本,所以要安装的pytorch能够调用的cuda不能超过12.8!!!
我这以安装12.1版本为例
二、进入pytorch官网:
官网链接如下:
进入官网后直接下滑找到如下位置、并选择对应的内容
如果有你想要的CUDA版本,这里不建议使用conda命令进行安装(不仅慢还容易安装到cpu版本的),建议使用离线下载,将安装包下载到本地电脑,这样以后其他地方有需要可以直接安装。请在Package这里选择pip如下图
请注意,我们最终的目的,就是要安装上图用红框圈出来的torch、torchvision和torchaudio这三个包。
有些人会发现了,这里的CUDA11.8、CUDA12.4都太低或太高了,而我想要安装个CUDA 12.1,或者我想安装个其他版本的,那怎么办呢?(如果是太高了那我们可以进入网址中选择对应版本的CUDA。)不要急,请看官网对应的下面这张图的位置
1.点击上面序号(1)内的跳转,进入如下页面查找自己电脑CUDN对应的版本号;以及torch、torchvision和torchaudio这三个分别对应的版本号。
或此链接直达:
Previous PyTorch Versions | PyTorchhttps://pytorch.org/get-started/previous-versions/
2.复制上图序号(2)中绿框中的链接,在浏览器进入绿框(2)圈出来的地址(就是上图pip命令最后给的网址),就是在这个地址,我们要找到并下载上述的这三个包(torch、torchvision和torchaudio)。请注意,一定要下载带"+cu"字样的、与你python版本一致的、与你的操作系统一致的包。
或此链接直达
离线安装位置http://download.pytorch.org/whl/点击链接后进入,如下图所示位置。
三、下载离线包
我想要安装cuda 12.1的、windows平台下的、python版本为3.8的包,包下载到哪里都可以,最终下载完的三个包如下图
然后,打开cmd或者终端,激活你想要安装pytorch的虚拟环境
激活完环境后,运行命令"pip install 包的完整路径"。依次安装完这三个包就好啦。
比如我想要在我建立的“py38”环境下安装pytorch
四、在conda虚拟环境中安装torch
# 激活环境
conda activate py39
# 安装包,我的下载上述3个包在D:\A-programming\A-Python\GPU\cuda12.1\这个路径下的,然后依次在终端中使用以下命令安装即可。
pip install "D:\A-programming\A-Python\GPU\cuda12.1\torch-2.3.0+cu121-cp38-cp38-win_amd64.whl"
pip install "D:\A-programming\A-Python\GPU\cuda12.1\torchvision-0.18.0+cu121-cp38-cp38-win_amd64.whl"
pip install "D:\A-programming\A-Python\GPU\cuda12.1\torchaudio-2.3.0+cu121-cp38-cp38-win_amd64.whl"
五、验证是否安装成功
新建一个python文件,写上以下代码
import torch
print(torch.cuda.is_available())
运行,如果输出True,那就是成功了。