准备

首先看系统架构

uname -m

在这里插入图片描述


一、下载ollama安装包

根据架构下载对应的ollama安装包

X86:https://ollama.com/download/ollama-linux-amd64.tgz

然后放到服务器中
在这里插入图片描述

二、解压赋权

tar -xzf ollama-linux-amd64.tgz

在这里插入图片描述

进入bin并赋权

cd bin

chmod +x ollama

移动到系统路径

sudo mv ollama /usr/local/bin/

在这里插入图片描述

三、更新libstdc++

先备份

mkdir -p /opt/backup-libstdcpp && \
cp -v /usr/lib64/libstdc++.so.6 /opt/backup-libstdcpp/ && \
cp -v /usr/lib64/libstdc++.so.6.* /opt/backup-libstdcpp/

检查

ls -lh /opt/backup-libstdcpp/

下载更新 libstdc++

cd /opt
wget http://ftp.gnu.org/gnu/gcc/gcc-8.3.0/gcc-8.3.0.tar.gz

解压后进入

tar -xf gcc-8.3.0.tar.gz
cd gcc-8.3.0

下载依赖源码

./contrib/download_prerequisites

创建构建目录并编译 libstdc++

mkdir build-libstdcpp
cd build-libstdcpp

../configure --disable-multilib --enable-languages=c,c++ --prefix=/opt/gcc-8.3.0-custom
make -j$(nproc) 
make install

检查是否安装成功

LD_LIBRARY_PATH=/opt/gcc-8.3.0-custom/lib64 ollama --version

请添加图片描述
ollama 程序已成功运行
只是它现在没连上正在运行的服务端进程(因为你还没启动 ollama serve)

四、启动Ollama服务端

启动 Ollama 服务端

LD_LIBRARY_PATH=/opt/gcc-8.3.0-custom/lib64 ollama serve

在这里插入图片描述

安装成功

五、添加开机自启

创建文件

sudo vi /etc/systemd/system/ollama.service

添加:

[Unit]
Description=Ollama AI Service
After=network.target

[Service]
ExecStart=/usr/bin/env LD_LIBRARY_PATH=/opt/gcc-8.3.0-custom/lib64 /usr/local/bin/ollama serve
Restart=on-failure
User=root
Environment=OLLAMA_HOST=http://127.0.0.1:11434
WorkingDirectory=/root

[Install]
WantedBy=multi-user.target

在这里插入图片描述

重载 systemd 并启用服务

sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama

在这里插入图片描述

确认服务状态

sudo systemctl status ollama

在这里插入图片描述


总结

在银河麒麟系统中安装ollama时会报错:

ollama: /usr/lib64/libstdc++.so.6: version ‘GLIBCXX_3.4.25’ not found

原因是系统中的 libstdc++ 版本太旧,缺少 GLIBCXX_3.4.25。
可以先用strings /usr/lib64/libstdc++.so.6 | grep GLIBCXX检查当前版本支持哪些 GLIBCXX,看到的最大版本小于 GLIBCXX_3.4.25,那就说明需要升级。

由于 Kylin 的软件源不包含最新版本的 libstdc++,需要手动下载并安装。但是直接替换系统库可能导致系统不稳定,所以建议谨慎操作并备份重要数据。

所以思路是下载最新的GCC 8.3.0的完整版源码包,然后不需要编译整个 GCC,而是只编译出新版 libstdc++.so.6 即可。

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐