背景:

公司来了一台工作站,显卡是AMD的,目前跑大模型的更多的用的都是NVIDIA显卡,而且网络上开源的很多框架、工具、模型都对NVIDIA的cuda更加适配,用户强制要求使用AMD卡拉起大模型,在很多开源社区以及AMD官网找了很多资料,逐一踩坑尝试将整体流程整理了一下,仅作为个人笔记记录。

开始:

需要先安装wsl(安装docker步骤中有:Windows 环境安装docker)

参考AMD官网:https://rocm.docs.amd.com/projects/install-on-windows/en/develop/how-to/install.html

hip-sdk下载地址:https://www.amd.com/en/developer/resources/rocm-hub/hip-sdk.html

hip-sdk官方安装指南:https://rocm.docs.amd.com/projects/install-on-windows/en/develop/

1.验证系统信息是否满足所有安装要求,查看是否支持

在这里插入图片描述

运行 PowerShell 管理员

输入:

Get-ComputerInfo | Format-Table CsSystemType,OSName,OSDisplayVersion

输出:

在这里插入图片描述

2.下载hip-sdk(接受许可后下载)

在这里插入图片描述

3.执行安装程序

在这里插入图片描述

默认已都勾选,开始安装,默认的安装位置为:C:\Program Files\AMD\ROCm

在这里插入图片描述

AMD 显示驱动程序 下滑勾选 Install

在这里插入图片描述

安装类型 full install(全部安装)

在这里插入图片描述

安装
在这里插入图片描述

4.完成

在这里插入图片描述

5.完成安装后重启计算机

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐