如果你最近开始接触深度学习十有八九会在教程里看到“conda、CUDA、cuDNN、PyTorch”这几个词。我第一次自己配环境的时候被这些名词绕得晕头转向明明照着网上文章装好了CUDA结果PyTorch还是报CPU版本好不容易通过验证换了一台电脑又全部重新来过。折腾了一周之后我才真正搞清楚这套环境背后的逻辑。这篇东西就是把我踩过的坑、总结出的套路完整写下来目标很简单让一个完全没配过深度学习环境的新手照着这份流程就能在自己电脑上把CUDA、cuDNN、PyTorch这套组合跑起来而且尽量少踩坑。我默认你会用Linux系统Ubuntu最常见因为绝大多数深度学习训练都在Linux服务器上跑。Windows下的过程有差异但思路完全一样关键差异我也会标注出来。如果你手里只有Windows电脑也建议装个WSL或直接用云服务器练手后面的操作会更顺畅。这篇博文适合所有刚入门的同学也适合那些以前用CPU跑模型、现在想上GPU加速的人甚至老手也可以当一份排查手册来用。1. 为什么我强烈建议用conda虚拟环境装PyTorch全家桶1.1 虚拟环境到底帮你隔离了什么很多新手不理解为什么装个深度学习框架还要先搞一个“虚拟环境”直接在系统里装不就行了我可以用一个生活化的例子解释你把系统当成一套出租屋Python和各类库就是屋里的家具。如果你今天装PyTorch需要Python 3.9明天跑另一个项目需要Python 3.6这两种版本默认情况下会互相覆盖装完一个坏一个。conda虚拟环境相当于给每个项目单独配了一间屋子每间屋子里可以放各自需要的Python版本、CUDA版本、库文件互不干扰不要了直接整间屋子扔掉不会影响系统里其他项目。这套隔离机制在深度学习场景里尤其重要因为PyTorch版本、CUDA版本、Python版本三者之间有着严格的兼容关系。你不可能让所有项目永远用同一套版本组合。今天这个项目用PyTorch 1.13跑旧代码明天那个项目用PyTorch 2.1跑新模型如果没有虚拟环境光是升级框架就能让你想砸电脑。有了conda我只需要conda activate切到对应环境一切就都齐了。1.2 整体流程先看懂这张路线图配置整个环境的流程其实可以拆成四步安装Miniconda或Anaconda换好国内源方便后续下载。创建并激活一个独立的conda虚拟环境指定Python版本。安装与显卡驱动匹配的CUDA Toolkit并安装对应版本的cuDNN。在虚拟环境里安装PyTorch确认它能调用GPU。需要特别提醒的是很多人一上来就照着网上的命令装PyTorch完全不看CUDA版本最终导致PyTorch虽然装上了但一直跑在CPU上损失了大量性能。这个问题的根源在于他们不知道PyTorch在安装时就会绑定CUDA运行时库如果你系统里没有对应版本或者装到了不同的环境下PyTorch就会自动退化成CPU版本。所以这个流程的顺序一定不能乱尤其是CUDA和PyTorch的版本匹配是整个配置里最关键的一步。2. 第一步安装Miniconda并搞定conda源和虚拟环境2.1 Miniconda还是Anaconda选哪个这个问题我回答过很多次如果你只是要跑深度学习装Miniconda就够了。Anaconda自带了非常多数据科学相关的包比如pandas、numpy、jupyter等等但大部分在配置PyTorch环境时根本用不上而且Anaconda体积大、启动慢装在服务器上还容易造成环境混乱。Miniconda是一个轻量级的conda管理工具只有基本的conda命令和Python后续需要什么包自己用pip或conda装干净又灵活。下载地址就是Miniconda官网注意选择Linux x86_64版本。如果服务器无法访问外网也可以从国内镜像站下载后面我会讲怎么换源。下载完成后执行bash Miniconda3-latest-Linux-x86_64.sh安装过程会有几个交互提示第一个是是否同意许可协议输入yes第二个是安装路径默认会写到你的家目录下新手直接回车用默认路径即可最后它会问你是否运行conda init这里建议输入yes让conda自动把初始化命令写入你的shell配置文件否则后面激活环境时会遇到问题。安装完成后重新打开终端或者执行source ~/.bashrc然后输入conda --version能输出版本号就说明安装成功了。2.2 conda换源不换源你下载能急死人这里说的是conda下载包时的网络源。默认的conda源在国外下载速度慢到怀疑人生而且经常中途断掉。强烈建议换成国内的清华源或阿里源。以清华源为例执行下面的命令就可以完成换源conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/ conda config --set show_channel_urls yes换完之后最好再执行一下清理缓存的操作conda clean -i如果你的团队或服务器有内网conda源也可以直接写到配置文件里方法是在家目录下的.condarc文件中加内容。注意.condarc文件默认路径是~/.condarc如果不存在就新建一个。我自己的建议是清华源和阿里源可以保留一个作为备选以防某个镜像源临时不可用时还能切换。国内源虽然快但也有同步不及时的问题偶尔会有某个包在源上找不到这个时候切回官方源一般就能解决。2.3 创建虚拟环境并激活换好源之后就可以创建虚拟环境了。这里我以题目里最热门的命令为例conda create -n pytorch python3.9 -y这条命令的意思是创建一个名为pytorch的虚拟环境并指定Python版本为3.9。为什么选3.9因为当前绝大多数深度学习框架和依赖包对3.8到3.11的兼容性都很好3.9是一个相对安全、踩坑最少的版本。在你电脑上也可以根据项目要求换成3.8或3.10比如conda create -n torch113 python3.8 -y创建完成后激活环境conda activate pytorch激活成功后终端最前面会出现(pytorch)这样的字样。如果你执行这个命令后报错提示 “conda error: run conda init before conda activate”说明你在安装conda时没有执行conda init或者你当前shell不是bash。解决方式很简单手动执行一次conda init bash然后重新打开终端再执行conda activate pytorch。如果是在Windows命令行里报类似错误可以在开始菜单里打开 Anaconda Prompt 再激活。2.4 常用conda命令速查表既然已经创建好了环境顺便整理一份高频命令方便后面查看操作命令创建环境conda create -n 环境名 python3.9 -y激活环境conda activate 环境名退出环境conda deactivate查看环境列表conda env list复制环境conda create -n 新环境名 --clone 旧环境名删除环境conda remove -n 环境名 --all安装包conda install 包名或pip install 包名查看环境里装了什么conda list导出依赖清单conda list --export requirements.txt对于深度学习新手我个人习惯是在环境里用pip install装包因为PyTorch官方对pip的支持更及时后续我再展开说。3. 第二步CUDA与cuDNN的安装与常见坑3.1 先看显卡驱动再决定装什么CUDA这一步是很多人出错的重灾区。先说清楚概念CUDA不是驱动而是一个并行计算平台。深度学习框架通过CUDA来调用NVIDIA显卡的GPU进行计算而显卡驱动则负责让操作系统识别GPU并提供底层接口。你的显卡驱动是“底座”CUDA Toolkit是“工具箱”cuDNN是“加速库”。底座必须撑得住上面的工具箱否则后面全白搭。所以在安装CUDA之前一定要先看驱动支持哪个CUDA版本。在终端输入nvidia-smi输出结果右上角有一行CUDA Version: 12.4或者类似字样这个数字代表你当前驱动最高支持的CUDA版本。比如显示12.4那你装CUDA 11.8、12.1、12.3这些版本都可以只要不高于12.4。这里很多新手有个误解以为必须安装和驱动显示一模一样的CUDA版本其实不是显示的数字只是驱动支持的上限你可以向下兼容。如果执行nvidia-smi显示找不到命令说明显卡驱动没有安装好或者你根本没有NVIDIA显卡。这一步先解决驱动问题再继续往下走否则后面PyTorch永远无法调用GPU。3.2 CUDA Toolkit安装的三条路线安装CUDA Toolkit主要有三种方式runfile、deb包、conda安装。我分别说下优缺点。runfile方式是最通用的适合所有环境尤其适合在服务器上安装方便自己控制安装路径。缺点是安装命令稍复杂而且如果是通过浏览器下载了不完整的文件解压时会报一个经典错误gzip: stdin: invalid compressed>wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda_12.1.1_530.30.02_linux.run sudo sh cuda_12.1.1_530.30.02_linux.run执行后它会先检查驱动如果你的驱动版本满足要求就选择不安装驱动只安装CUDA Toolkit。这里有个关键选项当提示是否安装Driver时建议直接选No因为你的驱动已经装好了再装一遍可能覆盖掉原来的驱动导致系统出问题。只保留CUDA Toolkit、CUDA Samples等组件即可。3.3 多版本CUDA共存与环境变量配置真实项目中不同项目可能需要不同CUDA版本。比如老代码要用CUDA 11.7新模型推荐CUDA 12.1这时候最好不要重复卸载安装而是让多个CUDA版本共存。runfile方式默认装到/usr/local/cuda-11.7和/usr/local/cuda-12.1它们不会互相覆盖。真正决定你用哪个版本的是环境变量PATH和LD_LIBRARY_PATH。比如我希望当前终端使用CUDA 12.1就在~/.bashrc里追加export PATH/usr/local/cuda-12.1/bin:$PATH export LD_LIBRARY_PATH/usr/local/cuda-12.1/lib64:$LD_LIBRARY_PATH保存后执行source ~/.bashrc再运行nvcc -V如果输出的是12.1版本说明当前生效的是12.1。如果切换项目时需要换CUDA版本只需把这两行改成另一个路径或者用alias封装两条切换命令很方便。3.4 cuDNN下载与安装cuDNN全称是CUDA Deep Neural Network library是NVIDIA针对深度学习计算优化的加速库PyTorch会调用它来加速卷积、池化等操作。没有cuDNNPyTorch通常也能跑但性能会差不少。下载cuDNN需要注册NVIDIA账号进入cuDNN下载页面选择与你的CUDA版本对应的cuDNN版本。这里注意cuDNN的版本号后缀会标注支持的CUDA版本比如cuDNN v8.9.7 for CUDA 12.x就表示它适用于CUDA 12系列。下载下来的文件一般是tar包解压后得到cuda目录里面包含include和lib64两个子目录。安装的实质就是把库文件复制到CUDA安装目录中tar -xzvf cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz sudo cp cudnn-linux-x86_64-8.9.7.29_cuda12-archive/include/cudnn*.h /usr/local/cuda-12.1/include/ sudo cp cudnn-linux-x86_64-8.9.7.29_cuda12-archive/lib/libcudnn* /usr/local/cuda-12.1/lib64/ sudo chmod ar /usr/local/cuda-12.1/include/cudnn*.h /usr/local/cuda-12.1/lib64/libcudnn*最后一行chmod ar很重要有些程序在读取cuDNN头文件和库文件时会因为权限不足而报错提前加上读取权限可以避免很多奇怪的问题。3.5 快速验证CUDA与cuDNN版本装完之后怎么确认装成功了我用两个命令首先验证CUDA Toolkitnvcc -V如果能看到版本号说明CUDA Toolkit安装成功。注意运行nvcc -V需要先配置好PATH环境变量否则可能提示找不到命令。然后验证cuDNN是否被识别ldconfig -p | grep cudnn或者直接查看cuDNN头文件里的版本号cat /usr/local/cuda-12.1/include/cudnn_version.h | grep CUDNN_MAJOR如果输出了类似#define CUDNN_MAJOR 8这样的内容就说明cuDNN已经正确安装。4. 第三步PyTorch安装与GPU验证4.1 PyTorch版本匹配原理装到哪个环境很关键现在环境有了CUDA和cuDNN也装好了可以进入最核心的一步安装PyTorch。很多人在这一步翻车原因在于跑错了安装命令。PyTorch官网有一个安装工具选择页面你选择操作系统、包管理器、CUDA版本后它会生成对应的安装命令。但这里有个容易忽略的点如果你不选择CUDA版本默认装的是CPU版本安装命令里会有一个cpu字样。一定要看清楚。另外PyTorch官方源在国内访问很不稳定所以实际安装时我一般不用官网直接给的那条命令而是用国内镜像源加速。比如对应CUDA 12.1的PyTorch安装命令是pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121把这个命令中的--index-url换成清华镜像速度会快很多。清华PyTorch镜像源地址为https://mirrors.tuna.tsinghua.edu.cn/pytorch-wheels/cu121所以命令变成pip install torch torchvision torchaudio --index-url https://mirrors.tuna.tsinghua.edu.cn/pytorch-wheels/cu121如果不太确定到底该装哪个CUDA版本我的经验是看两点第一你的显卡驱动支持的最高CUDA版本第二PyTorch当前正式版默认支持的CUDA版本。以PyTorch 2.1为例官方主推CUDA 11.8和12.1两个版本如果你的驱动支持12.1就选cu121如果驱动较老支持不了12.1就选cu118。装好了之后在Python里验证import torch print(torch.__version__) print(torch.version.cuda) print(torch.cuda.is_available())如果torch.cuda.is_available()返回True说明PyTorch能正常调用GPU这一步就成功了。4.2 conda安装还是pip安装我为什么推荐pip你可能在网上看到很多教程用conda install pytorch来安装但我在实际项目中逐渐倾向用pip原因有三点pip安装的PyTorch通常比conda源更新更及时官方对pip的测试也最充分。conda在解析依赖时经常会把CUDA相关的包拉到环境里与系统级CUDA产生混淆导致版本检测出现奇怪结果。pip的缓存机制和国内镜像配合得很好下载失败后重新执行命令能够断点续传效率高很多。这里当然有个例外如果你使用的是Windowsconda安装在某些场景下会更省事因为Windows下编译PyTorch总是有各种坑。但在Linux下我无条件推荐pip。4.3 GPU立刻跑起来从验证到一个小栗子装好之后除了验证版本建议直接跑一个小程序确认GPU真的在做计算而不是被PyTorch悄悄降级到CPU。最简单的做法是执行import torch x torch.rand(1000, 1000, devicecuda) y torch.rand(1000, 1000, devicecuda) z torch.matmul(x, y) print(z.sum())如果这行代码能顺利输出一个数字说明GPU计算链路没有问题。如果你看到Torch not compiled with CUDA enabled说明装的是CPU版本如果看到CUDA error: no kernel image is available for execution on the device说明CUDA版本和显卡架构不匹配需要换一个与之兼容的CUDA版本。这两个错误非常典型遇到之后不要急对照我后面的排查表处理就行。4.4 国内外镜像源选择与下载速度下载速度的问题几乎每个新手都会遇到。PyTorch的wheel包很大动辄两三个GB直接用官方源下载网速不稳定时很容易失败而且失败后重跑可能从头再来。我的建议是优先用清华PyTorch镜像它把https://download.pytorch.org/whl下的目录结构完整同步了一份只要你把--index-url替换成清华对应路径其他什么都不用改。如果你的网络环境访问清华源也慢还可以试试阿里云源pip install torch torchvision torchaudio --index-url https://mirrors.aliyun.com/pytorch-wheels/cu121/这里的小技巧是阿里源和清华源对PyTorch wheel的更新速度有差异遇到某个具体版本在A源没有时切到B源一般就能找到。5. 实际项目中遇见的坑和排查技巧5.1 conda activate报错conda init没执行我在2.3节提到过这里再展开讲一下因为这是新手最高发的报错之一。错误信息通常是CommandNotFoundError: Your shell has not been properly configured to use conda activate. To initialize your shell, run $ conda init原因很简单安装conda时没有初始化shell或者当前用户的shell配置文件里没有conda初始化脚本。解决办法就是执行conda init bash然后关闭当前终端重新打开或者执行source ~/.bashrc再激活环境就正常了。如果你用zsh就执行conda init zsh。这类问题不要想着绕过因为以后每次打开终端都需要conda环境第一次花一分钟配好是最省事的。5.2 gzip: stdin: invalid compressed data 错误这个错误通常出现在CUDA runfile安装阶段。当你执行sudo sh cuda_xxx_linux.run却提示gzip: stdin: invalid compressed>wget -c https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda_12.1.1_530.30.02_linux.run参数-c表示断点续传下载完成后再检查文件的md5校验值确保万无一失再执行安装。5.3 PyTorch装好了但torch.cuda.is_available()返回False这个现象非常常见排查思路可以按顺序走先确认你当前激活的conda环境是否正确执行which python看路径是否指向虚拟环境。我见过太多人把包装到了base环境然后又去pytorch环境里验证自然找不到。确认PyTorch安装的是GPU版本而不是CPU版本。执行pip list | grep torch查看torch版本号里是否有cu121或cu118这样的标识。如果只有2.1.0没有后缀说明装的是CPU版本需要卸载重装。确认系统CUDA和PyTorch要求的CUDA版本不冲突。比如PyTorch 2.1的cu121版本要求CUDA运行时12.x如果驱动太老支持不了也会导致无法调用GPU。最后可以执行ldd或者Python里的torch.cuda.get_device_name(0)来进一步定位如果这个输出为空说明CUDA驱动层就没通。5.4 无网电脑迁移虚拟环境用conda-pack或uv搞定实际工作里有一种很头疼的场景目标机器没有外网但你需要把一个已经配置好的conda虚拟环境迁移过去。一开始我也傻傻地用conda list --export导出再在目标机器上重建但无网环境下根本装不了包。后来我用conda-pack解决了它能把整个虚拟环境打包成一个压缩文件拷贝到目标机器后解压即可使用。基本步骤是pip install conda-pack conda pack -n pytorch -o pytorch_env.tar.gz把生成的pytorch_env.tar.gz拷贝到目标机器然后找个目录解压比如~/envs/pytorch再激活mkdir -p ~/envs/pytorch tar -xzf pytorch_env.tar.gz -C ~/envs/pytorch source ~/envs/pytorch/bin/activate如果你只是需要在无网机器上快速搭建一个Python开发虚拟环境也可以用uv这个工具它自带离线包缓存把已有环境通过缓存同步到目标机器也很方便。不过这条属于进阶玩法新手先把conda-pack用好就足够了。另外还有一招如果目标机器之前装过同样的CUDA版本只是Python包缺失可以直接把源机器上~/.cache/pip目录里的whl文件拷贝过去再在目标机器执行pip install --no-index --find-links/path/to/whl/ 包名离线安装也非常快。这招适合目标机器有部分包的情况能省去打包整个环境的体积。5.5 Pycharm配置conda虚拟环境很多新手喜欢用PyCharm写Python但不知道在PyCharm里怎么指定conda虚拟环境导致代码明明在终端能跑一到IDE里就报找不到包。配置方法很简单打开设置找到Project: 项目名 - Python Interpreter点击齿轮图标选择Add Interpreter再选择Conda Environment然后选择Existing environment在下拉框里选中你之前创建的pytorch环境。如果下拉框为空手动选择conda环境里的bin/python路径即可比如/home/yourname/miniconda3/envs/pytorch/bin/python。这里有个细节如果你在PyCharm里选了conda环境但还是提示module torch has no attribute cuda或者找不到包多半是PyCharm的终端没有激活conda环境导致你在PyCharm内置终端里执行命令时用的是base环境。这时可以在PyCharm的设置里把默认终端改成shell后可自动激活conda环境或者干脆在PyCharm里打开终端后手动执行一次conda activate pytorch。5.6 常见问题速查表症状可能原因解决方案conda: command not foundconda未安装或未初始化环境变量执行安装脚本后必须启用conda init或手动添加PATH路径CommandNotFoundError: run conda initshell未初始化执行conda init bash后重启终端gzip: invalid compressed datarunfile下载不完整用wget断点续传重新下载检查md5和文件大小nvcc -V找不到命令CUDA的PATH未配置在~/.bashrc中添加/usr/local/cuda-xx/bin到PATHPyTorch显示CPU版本安装命令带了cpu参数或使用了CPU源卸载后用cu118/cu121源重新pip安装torch.cuda.is_available()返回False驱动老、CUDA版本不匹配或装错环境依次排查驱动支持版本、PyTorch CUDA标识、当前激活环境CUDA error: no kernel image显卡架构与CUDA版本不匹配换用支持当前显卡架构的CUDA版本导出conda环境到无网机器失败用conda export依赖不完整改用conda-pack打包整个环境或离线whl包安装PyCharm里找不到torchIDE解释器未选到虚拟环境在Project Interpreter中手动指定虚拟环境的python路径6. 写在最后的一些个人体会环境配置这件事我第一次折腾的时候怨气很大觉得深度学习门槛怎么这么高。后来配的次数多了才明白这套结构其实已经设计得很合理了conda负责给你划出一块干净的地盘CUDA和cuDNN负责把GPU的能力释放出来PyTorch负责把训练模型的代码写得让人能看懂。每一步都有它存在的理由只是没有人把因果关系给你串起来讲清楚。希望这份流程能帮你少走点弯路如果按照这篇文章的顺序来做基本不需要像我当年那样反复卸载重装。最后再分享两个小技巧。第一个是配置环境时尽量把CUDA环境变量写在~/.bashrc的末尾不要写在conda环境激活脚本里因为你每次激活环境时它也会去读.bashrc写在后面不容易被覆盖。第二个是如果某个版本的PyTorch和你的显卡驱动实在无法匹配别死磕去PyTorch官网查一下该版本支持的CUDA范围选一个低一档的CUDA版本往往比换驱动要省事得多。记住环境配置的目的是让你尽快开始做实验而不是在配置本身里耗尽耐心。