前两天编写了AMD RX5700运行deepseek-r1教程Windows版,这两天想法是,使用Ubuntu也能运行deepseek就好了。结合Ollama for AMD 0.57版本,对应AMD ROCM 6.2.4版,通过近两天人测试验证,终于成功了。现将操作过程写下来,进行分享。

第一步  安装Ubuntu 22.04.05软件,下载地址:

Index of /ubuntu-releases/22.04/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirrorhttps://mirrors.tuna.tsinghua.edu.cn/ubuntu-releases/22.04/安装注意事项:安装后先不要进行补丁更新。

第二步  安装Amd 显卡驱动程序,带Rocm 6.2.4。

官网显示是6.3.2了,分析链接地址,可以找到6.2.4, 使用命令如下

​
sudo apt update
wget https://repo.radeon.com/amdgpu-install/6.2.4/ubuntu/jammy/amdgpu-install_6.2.60204-1_all.deb
sudo apt install ./amdgpu-install_6.2.60204-1_all.deb
sudo amdgpu-install -y --usecase=graphics,rocm
sudo usermod -a -G render,video $LOGNAME

第三步  下载最新ollama-for-amd(V0.5.7)选择 ollama-linux-amd64,并安装nullhttps://github.com/ollama/ollama/releases安装方法见:ollama/docs/linux.md at main · ollama/ollama · GitHubhttps://github.com/ollama/ollama/blob/main/docs/linux.md我只用了以下命令

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
ollama serve
ollama -v

第四步  安装AMD GPU监视器并运行

sudo apt install radeontop
radeontop

第五步  重开终端,运行 ollama run deepseek-r1:1.5b 进行下载。如果ollama run deepseek-r1:1.5b正常后,可以下载ollama run deepseek-r1:8b进行更好质量的大模型运行。


————————————————

                            版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
                        
原文链接:https://blog.csdn.net/xiantao/article/details/145481065

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐