这类环境配置教程最怕的就是“看起来装上了但实际跑不起来”。我见过太多人跟着教程一路点下一步最后在import torch或nvidia-smi这一步卡住回头排查又要重装驱动、重配环境变量特别折腾。所以这篇教程不会只给步骤我会把每个环节的验证点、常见报错和排查顺序都拆清楚。目标是让你装完就能直接跑 CUDA 程序而不是只看到“安装成功”的界面。1. 先搞清楚你要的到底是驱动、CUDA Toolkit 还是 cuDNN很多人一上来就找 CUDA 安装包但其实 NVIDIA 环境分三层显卡驱动让系统能识别和使用显卡这是最底层。没有驱动nvidia-smi都跑不起来。CUDA Toolkit包含编译器和运行时库让你能开发和运行 CUDA 程序。cuDNN针对深度学习的加速库通常需要单独安装。如果你的目标只是跑现成的深度学习框架如 PyTorch、TensorFlow那么通常只需要正确版本的驱动 框架自带 CUDA 即可。但如果你要自己编译 CUDA 项目那就必须装完整 CUDA Toolkit。1.1 检查当前环境状态在开始安装前先打开命令提示符按 WinR输入cmd运行nvidia-smi如果这个命令能运行并显示显卡信息说明驱动已经安装。注意看右上角的 CUDA Version这个是你当前驱动支持的最高 CUDA 版本。如果报错nvidia-smi 不是内部或外部命令说明连驱动都没装需要从驱动开始。1.2 确定你需要哪个版本的 CUDA这不是越新越好。如果你要用 PyTorch 或 TensorFlow先去官方文档查他们支持哪个 CUDA 版本。比如 PyTorch 官网会明确写Stable (2.3.1) 支持 CUDA 11.8 和 12.1如果你装 CUDA 12.4可能无法直接使用原则框架文档说支持什么版本就装什么版本不要追新。2. 安装流程驱动 → CUDA Toolkit → 环境验证2.1 显卡驱动安装如果 nvidia-smi 失败到 NVIDIA 官网下载页面产品类型GeForce游戏卡或 Quadro专业卡产品系列按你的显卡型号选择操作系统Windows 10/11注意是 64 位还是 32 位下载类型Studio 驱动适合创作或 Game Ready 驱动适合游戏对开发来说区别不大语言中文下载后运行安装程序选择「自定义安装」→「执行清洁安装」这会清除旧驱动配置。安装完成后重启再运行nvidia-smi确认。常见问题安装失败可能是 Windows 更新正在后台安装驱动去设备管理器里禁用自动更新驱动显示「NVIDIA 安装程序失败」用 DDUDisplay Driver Uninstaller在安全模式下彻底清除旧驱动再重试2.2 CUDA Toolkit 安装到 NVIDIA CUDA Toolkit 下载页面选择和你框架兼容的版本。比如 PyTorch 2.3.1 支持 CUDA 12.1就下 12.1.1。下载时选操作系统Windows架构x86_64版本Windows 10/11安装程序类型exelocal本地安装包大约 3GB运行安装程序时选择「自定义安装」取消勾选「NVIDIA GeForce Experience」除非你需要游戏录制等功能确保「CUDA」下面的「Development」和「Runtime」都选中确保「Driver components」下面的「Display Driver」取消勾选除非你想更新驱动其他保持默认安装路径建议用默认的C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\不要改到中文或带空格的路径。安装完成后需要验证环境变量是否自动添加。打开系统环境变量检查「系统变量」中的 Path 是否包含C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\binC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\libnvvp如果没有手动添加这两个路径。2.3 验证安装重新打开命令提示符重要必须重新开依次运行nvcc --version这个命令应该显示 CUDA 编译器的版本信息。然后运行nvidia-smi对比两个命令显示的 CUDA 版本。nvidia-smi显示的是驱动支持的最高版本nvcc显示的是你实际安装的 Toolkit 版本。前者应该大于等于后者。3. 测试实际代码从简单 CUDA 样例到 PyTorch3.1 编译 CUDA 样例程序CUDA Toolkit 自带样例代码位置在C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\extras\demo_suite在这个目录打开命令提示符运行deviceQuery.exe这个程序会详细显示显卡的 CUDA 能力如果能看到类似以下输出说明安装成功CUDA Device Query (Runtime API) version (CUDART static linking) Detected 1 CUDA Capable device(s) Device 0: NVIDIA GeForce RTX 4090 CUDA Driver Version / Runtime Version 12.1 / 12.1 CUDA Capability Major/Minor version number: 8.9 Total amount of global memory: 24564 MBytes ... Result PASS再运行bandwidthTest.exe这个测试内存带宽也应该显示Result PASS。3.2 测试 PyTorch GPU 支持如果你要做深度学习现在测试框架支持pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121然后启动 Python 解释器import torch print(torch.cuda.is_available()) # 应该返回 True print(torch.cuda.device_count()) # 应该返回显卡数量 print(torch.cuda.get_device_name(0)) # 应该返回你的显卡型号如果torch.cuda.is_available()返回 False说明 PyTorch 没有检测到 CUDA。4. 常见问题排查顺序4.1 nvidia-smi 能运行但 torch.cuda.is_available() 返回 False这是最常见的问题排查顺序检查 CUDA 版本兼容性nvidia-smi显示的 CUDA 版本是否大于等于 PyTorch 需要的版本检查 PyTorch 安装命令是否用了对应 CUDA 版本的安装命令如 cu121 对应 CUDA 12.1检查环境变量Path 中是否有 CUDA 的 bin 和 libnvvp 路径重启命令提示符环境变量修改后必须重新打开终端检查显卡计算能力较老的显卡可能不被新版本 PyTorch 支持4.2 编译 CUDA 代码时报错如果是自己写 CUDA 程序编译失败检查 Visual Studio 版本CUDA 需要特定版本的 MSVC 编译器查看 CUDA 文档的兼容性表格检查项目配置在 Visual Studio 中确保正确设置了 CUDA 工具路径检查代码兼容性较新的 CUDA 特性可能不支持老显卡的计算能力4.3 运行时报「out of memory」或性能不佳检查显存占用用nvidia-smi看是否有其他程序占用显存调整批量大小减少 batch size检查数据加载确保数据加载没有内存泄漏监控温度显卡过热会降频影响性能5. 生产环境建议如果这台机器要长期做开发或训练5.1 环境隔离不要用系统全局环境用 conda 或 venv 创建独立环境conda create -n cuda-dev python3.10 conda activate cuda-dev然后在独立环境中安装 PyTorch 等框架。5.2 版本记录创建一个environment.yml文件记录环境版本name: cuda-dev channels: - pytorch - nvidia - conda-forge dependencies: - python3.10 - pytorch2.3.1 - torchvision0.18.1 - torchaudio2.3.1 - cudatoolkit12.1 - pip - pip: - tensorflow2.13.05.3 监控和维护定期用nvidia-smi检查驱动状态关注框架更新确认兼容性后再升级 CUDA重要项目开始前先跑一遍deviceQuery和bandwidthTest确认环境正常我个人习惯是每台新机器装完环境后创建一个简单的测试脚本包含上述所有验证步骤每次重大更新后跑一遍这个脚本确认环境完好。这种验证流程看起来多花 10 分钟但能避免后面几天甚至几周的排查时间。CUDA 环境最怕的就是「差不多装好了」一定要每个环节都验证通过再开始正式开发。