【学习笔记】本地搭建 Dify - 04,对接本地的 deepseek
1. 前期准备
Dify 在 1.X 版本以后,修改了一些配置,导致和大模型对接是异步的,在异步没有链接成功,我们看不到错误。所以,我们可以通过修改配置,可以让我们在对接大模型时,不报错。
1.1 修改 dify 的 docker文件夹下的 .env文件中的内容。
建议下载到windows本地修改,上传覆盖之前的文件,避免修改内容错误。

修改内容如下:
CUSTOM_MODEL_ENABLED=true
OLLAMA_API_BASE_URL=http://192.168.11.101:11434
PROVIDER_OLLAMA_API_BASE_URL=http://192.168.11.101:11434
PLUGIN_WORKING_PATH=/app/cwd
PLUGIN_PYTHON_ENV_INIT_TIMEOUT=6400
PLUGIN_MAX_EXECUTION_TIMEOUT=2400
PIP_MIRROR_URL=https://mirrors.aliyun.com/pypi/simple
备注:如果可以在原文件找到的配置项,进行修改即可。如果没有,直接在最后面添加。
IP地址是Dify 所在服务器的IP地址。
1.2 修改 middleware.env
先复制一份 middleware.env.example,执行
cp middleware.env.example middleware.env
然后建议下载到 windows本地修改,上传覆盖之前的文件,避免修改内容错误。
修改内容如下:
PLUGIN_PYTHON_ENV_INIT_TIMEOUT=6400
PLUGIN_MAX_EXECUTION_TIMEOUT=2400
PIP_MIRROR_URL=https://mirrors.aliyun.com/pypi/simple
备注:如果可以在原文件找到的配置项,进行修改即可。如果没有,直接在最后面添加。
1.3 重启 Dify 的服务
docker compose down
docker compose up
2. 到Dify 配置 Ollama
2.1 登录Dify, 点击右上角的图标,进入设置

2.2 安装Ollama 模型
在模型供应商中查找 Ollama, 并进行安装。


安装完毕后,可以在模型供应商的“待配置”中,发现安装的Ollama. 如果第一次安装后发现没有,可以再尝试安装一次。

2.3 添加 deepseek 模型
选择上图中Ollama的 “添加模型”,
按照下面的例子,填写内容。

备注:模型名称按照之前通过Ollama部署在服务器上的名字,保持一致。凭据名称,按照自己的需要填写。
完成加载后,如下图:

# 此内容是在参加路飞学院的AI课程时学习的,如需要更详细的内容,可以考虑访问路飞学院的官方网站。
更多推荐



所有评论(0)