更新:我下列的做法相当于自己修改了ollama位置,这样会影响ollama对GPU的调用。后来删除了/usr/local/bin/ollama后,ollama serve也能正确运行了……不太明白到底是哪里出了岔子(也许是需要重启?),检查环境变量如下:
在这里插入图片描述
为了解决显卡无法检测到的问题我还使用了以下语句:
在这里插入图片描述
但是由于一切都正常了,所以先不探究了。
----------------------分割线--------------------------
安装了旧版本的ollama后发现新版的打了一些需要的补丁,因此决定卸载旧版安装新版。由于网络原因无法使用官网的脚本下载,这里使用手动下载。下载后参照官方的手动安装脚本始终显示“Segment fault”。
以下是检查过程最终起作用的方法:
验证sha256sum文件无误后,在当前/home/ubuntu/mnt/独立解压ollama-linux-amd64(换成对应的版本)。

mkdir ollama-linux-amd64
tar -xzf ollama-linux-amd64.tgz -C ollama-linux-amd64

检查/usr文件夹中所有涉及ollama的文件/文件夹都删除

sudo find /usr -name "*ollama*" -type d

这步发现即使按照官方的sudo rm -rf /usr/lib/ollama执行后仍然还有两个残留:

/usr/local/lib/python3.10/dist-packages/ollama
/usr/local/lib/python3.10/dist-packages/ollama-0.5.4.dist-info

分别执行删除

sudo rm -rf /usr/local/lib/python3.10/dist-packages/ollama
sudo rm -rf /usr/local/lib/python3.10/dist-packages/ollama-0.5.4.dist-info

此时再执行sudo tar -C /usr -xzf ollama-linux-amd64.tgz 之后执行ollama serve显示如下:

root@ubuntu-MS-7E34:/home/ubuntu/mnt/$ ollama serve
bash: /usr/local/bin/ollama: No such file or directory

将本地解压的tgz中的bin/ollama 移动到对应的/usr/local/bin/ollama

mv /home/ubuntu/mnt/ollama-linux-amd64/bin/ollama /usr/local/bin/

再次执行ollama serve 即可正常启动。
在这里插入图片描述

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐