当部署Ollama服务后,默认监听地址为 127.0.0.1(仅限本机访问)。若需从外部服务器/客户端访问,会出现连接失败。这是因为服务未绑定到公共网络接口。

现在服务器显示

ss -tulnp | grep 11434
tcp   LISTEN 0      4096                         127.0.0.1:11434      0.0.0.0:* 

但是这个在用docker的时候会报错

Ollama service unavailable: Head "http://host.docker.internal:11434/": dial tcp 172.17.0.1:11434: connect: connection refused Ollama

http://host.docker.internal:11434

解决方法:

sudo vi /etc/systemd/system/ollama.service

然后添加

Environment="OLLAMA_HOST=0.0.0.0"

然后重新加载systemd配置

sudo systemctl daemon-reload

重启ollama服务

sudo systemctl restart ollama

再次执行会变成这样成功了

ss -tuln | grep 11434 
tcp   LISTEN 0      4096                                 *:11434            *:*

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐