在 Dify 中接入 Ollama

在设置中找到“模型供应商” > “ollama” > “添加”。
将 URL 设置为 http://host.docker.internal:8000,让 Docker 通过内部地址访问。
在这里插入图片描述
PS:
基础 URL:
此处需填写 Ollama 服务地址。此处我用Docker 容器部署,ollama绑定的端口改成了8000。故地址为http://host.docker.internal:8000.

官方文档描述:
如果填写公开 URL 后仍提示报错,请参考常见问题,修改环境变量并使得 Ollama 服务可被所有 IP 访问。
若 Dify 为 Docker 部署,建议填写局域网 IP 地址,例如:http://192.168.1.100:11434 或 Docker 容器的内部 IP 地址,例如:http://host.docker.internal:11434。
若为本地源码部署,可填写 http://localhost:11434。

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐