大模型平台搭建（七）Dify平台接入Ollama
·
大模型平台搭建（七）Dify平台接入Ollama
Dify 模型接入指南
本章节主要对Dify平台接入Ollama本地模型进行说明。
环境准备
- Dify平台
- Ollama模型平台
- 本地模型部署
Dify平台
根据容器部署的IP:端口号登录平台，设置管理员账号：填写邮箱、用户名、密码后，再重新登录一下。若在之前已经注册过则跳过该步骤。 Dify平台部署流程可参考：大模型平台搭建（一）Dify平台
Ollama模型确认
在Ollama部署章节，使用Docker容器部署，在确认模型时，需要先进入Docker容器内部。
# 进入Ollama容器
docker exec -it <Ollama容器名> bash
# 查看Ollama模型
ollama list
目前ollama已经下载的本地模型
Dify接入Ollama本地模型
点击右侧用户头像 → 选择设置 → 选择模型供应商 → 下载Ollama插件
在搜索框搜索ollama. 我的平台已经提前安装，大家可以直接参考Anthropic安装指示，按照Ollama插件即可。
点击添加模型，可以将ollama下载的本地模型进行接入。
- 模型名称：
Ollama下载的模型 即Ollama list 查询出来的模型NAME - 模型类型：
目前支持 LLM 和Text Embedding - 基础URL：
Ollama模型地址,上图方便后续维护使用容器名称 - 其他配置：
可根据模型特性进行调整
本地模型验证
点击工作室 → 创建应用（本文案例使用聊天助手验证模型）
按照系统指南创建应用
在右侧红色窗口选择本地的模型，就可以与Bot进行聊天啦~
中国智能体开发者社区，聚焦智能体与大模型开发，提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动，促进经验交流与协作，助力开发者快速构建创新智能应用。
更多推荐
15
0- 0
已为社区贡献4条内容
所有评论(0)