在银河麒麟上安装Ollama详细流程
在银河麒麟系统中安装ollama时会报错:原因是系统中的 libstdc++ 版本太旧,缺少 GLIBCXX_3.4.25。可以先用检查当前版本支持哪些 GLIBCXX,看到的最大版本小于 GLIBCXX_3.4.25,那就说明需要升级。由于 Kylin 的软件源不包含最新版本的 libstdc++,需要手动下载并安装。但是直接替换系统库可能导致系统不稳定,所以建议谨慎操作并备份重要数据。
准备
首先看系统架构
uname -m

一、下载ollama安装包
根据架构下载对应的ollama安装包
X86:https://ollama.com/download/ollama-linux-amd64.tgz
然后放到服务器中
二、解压赋权
tar -xzf ollama-linux-amd64.tgz

进入bin并赋权
cd bin
chmod +x ollama
移动到系统路径
sudo mv ollama /usr/local/bin/

三、更新libstdc++
先备份
mkdir -p /opt/backup-libstdcpp && \
cp -v /usr/lib64/libstdc++.so.6 /opt/backup-libstdcpp/ && \
cp -v /usr/lib64/libstdc++.so.6.* /opt/backup-libstdcpp/
检查
ls -lh /opt/backup-libstdcpp/
下载更新 libstdc++
cd /opt
wget http://ftp.gnu.org/gnu/gcc/gcc-8.3.0/gcc-8.3.0.tar.gz
解压后进入
tar -xf gcc-8.3.0.tar.gz
cd gcc-8.3.0
下载依赖源码
./contrib/download_prerequisites
创建构建目录并编译 libstdc++
mkdir build-libstdcpp
cd build-libstdcpp
../configure --disable-multilib --enable-languages=c,c++ --prefix=/opt/gcc-8.3.0-custom
make -j$(nproc)
make install
检查是否安装成功
LD_LIBRARY_PATH=/opt/gcc-8.3.0-custom/lib64 ollama --version

ollama 程序已成功运行
只是它现在没连上正在运行的服务端进程(因为你还没启动 ollama serve)
四、启动Ollama服务端
启动 Ollama 服务端
LD_LIBRARY_PATH=/opt/gcc-8.3.0-custom/lib64 ollama serve

安装成功
五、添加开机自启
创建文件
sudo vi /etc/systemd/system/ollama.service
添加:
[Unit]
Description=Ollama AI Service
After=network.target
[Service]
ExecStart=/usr/bin/env LD_LIBRARY_PATH=/opt/gcc-8.3.0-custom/lib64 /usr/local/bin/ollama serve
Restart=on-failure
User=root
Environment=OLLAMA_HOST=http://127.0.0.1:11434
WorkingDirectory=/root
[Install]
WantedBy=multi-user.target

重载 systemd 并启用服务
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama

确认服务状态
sudo systemctl status ollama

总结
在银河麒麟系统中安装ollama时会报错:
ollama: /usr/lib64/libstdc++.so.6: version ‘GLIBCXX_3.4.25’ not found
原因是系统中的 libstdc++ 版本太旧,缺少 GLIBCXX_3.4.25。
可以先用strings /usr/lib64/libstdc++.so.6 | grep GLIBCXX检查当前版本支持哪些 GLIBCXX,看到的最大版本小于 GLIBCXX_3.4.25,那就说明需要升级。
由于 Kylin 的软件源不包含最新版本的 libstdc++,需要手动下载并安装。但是直接替换系统库可能导致系统不稳定,所以建议谨慎操作并备份重要数据。
所以思路是下载最新的GCC 8.3.0的完整版源码包,然后不需要编译整个 GCC,而是只编译出新版 libstdc++.so.6 即可。
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐

所有评论(0)