哈喽大家好,欢迎来到虚拟化时代君(XNHCYL),收不到通知请将我点击星标!   大家好,我是虚拟化时代君,一位潜心于互联网的技术宅男。这里每天为你分享各种你感兴趣的技术、教程、软件、资源、福利…(每天更新不间断,福利不见不散)

图片

第一章、概要

今天拿到一台A100显卡的机器,里面安装了Rocky Linux 9,打算安装DeepSeek进行深度推理,整理下在Rocky Linux 9上安装Nvidia A100显卡驱动的整个安装过程和思路。

第二章、安装 NVIDIA 驱动程序的其他一些替代方法包括:

  • NVIDIA 的安装程序.run

  • 第三方 RPMFusion 存储库

  • 第三方 ELRepo 驱动程序

第三章、支持安装NVIDIA的Linux系统

支持的Linux发行版本

Distribution

$distro

$arch

$arch_ext

x86_64

Red Hat Enterprise Linux 9

rhel9

x86_64

x86_64

Red Hat Enterprise Linux 8

rhel8

x86_64

x86_64

OpenSUSE Leap 15

opensuse15

x86_64

x86_64

Rocky Linux 8

rhel8

x86_64

x86_64

Rocky Linux 9

rhel9

x86_64

x86_64

SUSE Linux Enterprise Server 15

sles15

x86_64

x86_64

Ubuntu 24.04 LTS

ubuntu2404

x86_64

amd64

Ubuntu 22.04 LTS

ubuntu2204

x86_64

amd64

Ubuntu 20.04 LTS

ubuntu2004

x86_64

amd64

Debian 12

debian12

x86_64

amd64

Fedora 41

fedora41

x86_64

x86_64

KylinOS V10 SP3 2403

kylin10

x86_64

x86_64

MSFT Azure Linux 2.0

cm2

x86_64

x86_64

Amazon Linux 2023

amzn2023

x86_64

x86_64

Oracle Linux 8

rhel8

x86_64

x86_64

Oracle Linux 9

rhel9

x86_64

x86_64

arm64-sbsa

Red Hat Enterprise Linux 9

rhel9

sbsa

aarch64

Red Hat Enterprise Linux 8

rhel8

sbsa

aarch64

SUSE Linux Enterprise Server 15

sles15

sbsa

aarch64

Kylin V10 SP3 2403

kylin10

sbsa

aarch64

Ubuntu 24.04 LTS

ubuntu2404

sbsa

arm64

Ubuntu 22.04 LTS

ubuntu2204

sbsa

arm64

Ubuntu 20.04 LTS

ubuntu2004

sbsa

arm64

第四章、安装步骤

1、安装必备的开发工具,因为我们后面需要编译内核模块

dnf groupinstall -y "Development Tools"

图片

2、安装完成

图片

3、dnf install -y pciutils elfutils-libelf-devel libglvnd-opengl libglvnd-glx libglvnd-devel acpid dkms

图片

4、启用网络存储库

dnf config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/rhel9/x86_64/cuda-rhel9.repo

图片

5、预编译流不需要内核头文件或 DKMS。如果不需要预编译的内核模块,则可以使用以下命令安装当前正在运行的内核的内核头文件和开发包

dnf install -y kernel-devel-matched kernel-headers

图片

6、满足第三方包依赖项

NVIDIA 驱动程序包依赖于其他外部包。这些软件包仅在第三方软件源(如 EPEL)上可用。在安装 NVIDIA 驱动程序包之前,必须将任何此类第三方存储库添加到包管理器存储库数据库中,否则缺少依赖项将阻止安装继续进行

dnf config-manager --set-enabled crb

图片

dnf install -y epel-release

图片

7、专有内核模块,其中 profile 默认为 和 不需要指定。default

dnf module install -y nvidia-driver:latest-dkms/default

8、禁用 Nouveau

Nouveau 是一个开源的 NVIDIA 驱动程序,与 NVIDIA 的专有驱动程序相比,它提供的功能有限。最好禁用它以避免驱动程序冲突:

grubby --args="nouveau.modeset=0 rd.driver.blacklist=nouveau" --update-kernel=ALL

图片

9、 如果你还需要安装 CUDA,这里请根据需要指定要安装的版本

dnf install cuda-12-8

图片

图片

10、nvidia-smi检查一下驱动

图片

11、检查cuda版本

图片

至此安装完成。

参考

Rocky Linux 的 Nvidia 显卡驱动安装文档

https://docs.rockylinux.org/desktop/display/installing_nvidia_gpu_drivers

【以上内容均属虚拟化时代君整理,大家仅供参考!】以上部分内容参考外站博客完成!

往期回顾

点击下方链接阅读精彩文章

从零开始:在 VMware ESXi 环境中安装 Rocky Linux 的秘诀

VMware ESXi安装Nvidia驱动和vGPU DLS授权更改ip教程

最全NVIDIA vGPU 常用功能链接集锦

NVIDIA vGPU License许可服务器高可用全套部署秘籍

VMware Esxi 8.0 直通Nvidia P40显卡

NVIDIA vGPU许可证服务器由于 IP 地址更改而无法启动

VMware ESXi 7.0安装NVIDIA GPU显卡硬件驱动和配置vGPU

NVIDIA vGPU License授权服务器安装图解

资源申明:小编更新资源文章只是为了给大家提供一个绿色学习的平台,如果你在本站看到的任何图片文字有涉及到你的利益以及版权都可以联系小编删除。联系微信:XNHSDJ

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐