AMD RX5700运行deepseek-r1教程(Ubuntu 22)
amd 5700 ubuntu 运行 ollima deepseek
前两天编写了AMD RX5700运行deepseek-r1教程Windows版,这两天想法是,使用Ubuntu也能运行deepseek就好了。结合Ollama for AMD 0.57版本,对应AMD ROCM 6.2.4版,通过近两天人测试验证,终于成功了。现将操作过程写下来,进行分享。
第一步 安装Ubuntu 22.04.05软件,下载地址:
Index of /ubuntu-releases/22.04/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror
https://mirrors.tuna.tsinghua.edu.cn/ubuntu-releases/22.04/安装注意事项:安装后先不要进行补丁更新。
第二步 安装Amd 显卡驱动程序,带Rocm 6.2.4。
官网显示是6.3.2了,分析链接地址,可以找到6.2.4, 使用命令如下
sudo apt update
wget https://repo.radeon.com/amdgpu-install/6.2.4/ubuntu/jammy/amdgpu-install_6.2.60204-1_all.deb
sudo apt install ./amdgpu-install_6.2.60204-1_all.deb
sudo amdgpu-install -y --usecase=graphics,rocm
sudo usermod -a -G render,video $LOGNAME
第三步 下载最新ollama-for-amd(V0.5.7)选择 ollama-linux-amd64,并安装null
https://github.com/ollama/ollama/releases安装方法见:ollama/docs/linux.md at main · ollama/ollama · GitHub
https://github.com/ollama/ollama/blob/main/docs/linux.md我只用了以下命令
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
ollama serve
ollama -v
第四步 安装AMD GPU监视器并运行
sudo apt install radeontop
radeontop
第五步 重开终端,运行 ollama run deepseek-r1:1.5b 进行下载。如果ollama run deepseek-r1:1.5b正常后,可以下载ollama run deepseek-r1:8b进行更好质量的大模型运行。
————————————————
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
原文链接:https://blog.csdn.net/xiantao/article/details/145481065
更多推荐
所有评论(0)