登录/ 注册
 找回密码
 立即注册
关闭

CSDN热搜

程序园 精品问答 技术交流 资源下载
返回列表 发新帖
首页 › 业界区 › 业界 ›Ubuntu安装GPU驱动+CUDA+cuDNN的安装方法

Ubuntu安装GPU驱动+CUDA+cuDNN的安装方法

终秀敏 4 天前
一台有GPU的虚拟机如果没有安装CUDA的驱动，是需要我们手动去进行安装的，介绍Ubuntu操作系统的安装教程。
1. 下载安装文件

NVIDIA CUDA Toolkit Archive
点击上面链接，进入CUDA Toolkit Archive，下载需要的CUDA工具包，本文章以CUDA Toolkit 12.3.2版本举例（可能需要代理加速访问网页）

选择对应的系统，架构，发行版本，选择run文件安装方式
（可在服务器中输入uname -a查看当前服务器系统版本信息）
2.png

3.png

选择完后会出现run文件下载链接，可复制wget命令直接在服务器中下载，也可复制下载链接到浏览器上，通过本地浏览器下载再上传至服务器中。（注意：只下载不执行）
4.png

5.png

2. 禁用 nouveau 驱动
  1. sudo vim /etc/modprobe.d/blacklist-nouveau.conf
复制代码
文件最后加入以下内容  (如果没有需要添加，否则忽略这步操作)
  1. blacklist nouveau
  2. options nouveau modeset=0
复制代码
更新使其生效
  1. sudo update-initramfs -u
复制代码
重启机器之后检查，
没有内容输出，说明禁用成功
  1. reboot  
  2. lsmod | grep nouveau
复制代码
3. 安装gcc/cmake

依次执行
  1. sudo apt-get update
  2. sudo apt-get install gcc
  3. sudo apt-get install cmake
  5. # 查看版本
  6. gcc --version
  7. cmake --version
复制代码
6.png

4. 运行安装文件

输入ls命令查看运行文件
输入chmod -x {文件名}赋予run文件执行权限
输入sh {文件名}运行run文件
7.png

等待一会儿后会弹出NVIDIA用户协议输入accept同意
8.png

默认选中显卡驱动，一起安装即可
9.png

等待程序运行。。。。
安装完成后，如下图
10.png

添加自己需要的cuda版本到环境变量, vim ~/.bashrc，添加以下内容到最后，如：
  1. export PATH=/usr/local/cuda-12.3/bin:$PATH                                                                                                                                                                                                
  2. export LD_LIBRARY_PATH=/usr/local/cuda-12.3/lib64:$LD_LIBRARY_PATH
复制代码
11.png

内容输入后，:wq 保存退出，
输入source ~/.bashrc 更新环境变量使刚刚输入的环境变量生效，输入nvcc -V 查看CUDA版本
12.png

输入命令nvidia-smi查看显卡驱动与CUDA版本，如下图所示，说明安装成功。
13.png

启动显卡持久化服务及其守护程序
  1. cat <<EOF >> /etc/systemd/system/nvidia-persistenced.service
  2. [Unit]
  3. Description=NVIDIA Persistence Daemon
  4. Wants=syslog.target
  6. [Service]
  7. Type=forking
  8. ExecStart=/usr/bin/nvidia-persistenced
  9. ExecStopPost=/bin/rm -rf /var/run/nvidia-persistenced
  11. [Install]
  12. WantedBy=multi-user.target
  13. EOF
  15. systemctl daemon-reload
  16. systemctl start nvidia-persistenced
  17. systemctl enable nvidia-persistenced
复制代码
在安装NVIDIA CUDA Toolkit时，cuDNN库并不是必须同时安装的，但安装cuDNN可以提供额外的性能优化，特别是在深度学习和某些高性能计算任务中。以下是一些关于是否需要安装cuDNN的考虑因素：

  • 深度学习应用：如果你的工作或项目涉及到深度学习，特别是需要使用GPU加速的深度学习框架（如TensorFlow、PyTorch等），那么安装cuDNN是非常推荐的。cuDNN提供了针对深度学习算法的优化实现，可以显著提高训练和推理的速度。
  • 性能需求：如果你的应用需要高性能的计算能力，并且对计算速度有较高的要求，那么安装cuDNN可以提供额外的性能提升。
  • 兼容性：确保你安装的CUDA Toolkit版本与cuDNN版本兼容。NVIDIA提供了不同版本的CUDA Toolkit和cuDNN，它们之间有特定的兼容性要求。
  • 空间和资源：cuDNN是一个额外的库，会占用一定的磁盘空间和系统资源。如果你的系统资源有限，或者你不需要cuDNN提供的性能优化，那么可以考虑不安装。
  • 框架支持：一些深度学习框架可能已经内置了对cuDNN的支持，或者提供了使用cuDNN的选项。在这种情况下，安装cuDNN可以使得这些框架能够利用GPU加速。
    总的来说，是否需要安装cuDNN取决于你的具体需求。如果你不确定是否需要cuDNN，可以先安装CUDA Toolkit，然后在需要的时候再安装cuDNN。这样，你可以在不牺牲性能的情况下，根据实际需求灵活地选择是否使用cuDNN。
5. 配置cuDNN库

cuDNN比CUDA安装简单，下载对应版本压缩包，拷贝文件到指定目录，给予权限就好了。
cuDNN官方下载地址（如果下载不了，需要登录NVIDIA账号）
14.png

下图为cuDNN对应版本关系
15.png

16.png

17.png

18.png

19.png

将tar包下载至服务器上，解压tar包，并将文件cp至对应位置命令如下：
  1. tar -xvf cudnn-linux-$arch-8.x.x.x_cudaX.Y-archive.tar.xz
  2. cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda/include
  3. cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda/lib64
  4. chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*
  6. #加上版本号后，实际执行命令如下
  7. tar -xvf cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz
  8. cp cudnn-linux-x86_64-8.9.7.29_cuda12-archive/include/cudnn*.h /usr/local/cuda/include
  9. cp -P cudnn-linux-x86_64-8.9.7.29_cuda12-archive/lib/libcudnn* /usr/local/cuda/lib64
  10. chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*
复制代码
使用以下命令查看cuDNN是否配置完成
  1. cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2
复制代码
20.png

相关安装包地址：https://pan.quark.cn/s/4a29f4c9ef9f

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！

使用道具 举报
相关推荐
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册
发帖
终秀敏
4 天前

0

粉丝关注

5

主题发布

板块介绍填写区域，请于后台编辑
微信扫一扫