保姆级教程:在Windows上本地部署Dify并搭建知识库与智能体
在Windows环境下本地配置Dify和部署大语言模型的完整流程
- 在
windows环境下进行本地配置Dify以及本地配置大语言模型 - 在
Dify中搭建本地的知识库,并创建智能体
第一步:配置环境💻
本地配置Dify需要安装Docker desktop,而想要安装Docker desktop需要安装windows下的linux子系统(WSL)
1. 确认虚拟化已开启
打开任务管理器(ctrl + shifht + esc),在 性能-CPU界面查看是否开启虚拟化
‼️ 若显示“已禁用”,需要重启电脑进入
BIOS开启虚拟化,可自行查询相关方法
2. 安装 WSL2
右键windows图标 ➡️ 选择终端管理员 ➡️ 在终端管理员(PowerShell)中输入
wsl --install
等待系统安装Linux子系统和WSL2内核
第二步:安装并配置Dcoker Desktop
1. 下载
前往 Docker官方页面 或点击下方版本链接直接下载合适的版本
Windows-AMD64
Windows-ARM64
⚠️点击版本链接将会直接进行下载,请先检查电脑属于
AMD64还是ARM64
2. 安装
双击下载好的Docker Desktop Installer.exe
按上图所示勾选,点击 OK 开始安装
安装完成后会提示 重启电脑
3. 验证安装
打开 PowerShell 或 CMD ,输入
docker --version
如果显示版本号则说明安装成功。
进入 Docker Desktop 注册或登录账号,启动成功后任务栏会出现小鲸鱼图标。
再运行
docker run hello-world
出现 Hello from Docker说明Docker已经能正常拉取和运行镜像。
第三步:本地安装部署Dify
1. 下载Dify
访问 Dify官方git仓库 ,选择最新版下载.zip文件,然后解压缩得到dify-main文件
2. 配置Dify源码
dify-main的目录结构如下:
进入如下路径:"...\dify-main\docker\"
找到.env.example文件,修改文件名为.env (即去掉.example后缀)
3. 启动Docker容器
在docker文件夹中打开终端,输入
docker compose up -d
等待Docker拉取Dify所需的镜像
若拉去镜像失败,可以尝试给docker配置国内镜像
4. 访问Dify
完成后,进入浏览器,输入网址:http://localhost/apps
该网址是访问本地部署的dify
即可进入dify界面
首次登陆需要进行注册和设置管理员账户
✅ 完成后可进入上图所示界面
第四步:部署本地大模型
1. 下载安装Ollama
Ollama官网
Ollama下载页
Ollama官方Github仓库
等待浏览器下载好,双击OllamaSetup.exe文件,直接点击Install按钮即可下载
⚠️Ollama默认安装在C盘,无法修改安装路径
2. 验证安装
安装完成后Ollama会自动启动,任务栏会有小羊驼图标
在PowerShell 或 CMD 中输入
ollama --version
若有类似 ollama version is 0.12.6 的输出则说明安装成功
3. 修改大模型存储位置
Ollama的大模型默认储存在 C:\Users[你的用户名].ollama\models 路径下
若C盘空间不足,需要提前修改存储路径
打开Ollama,进入Settings
找到Model localtion,可自由修改路径
4. 下载大模型
进入Ollama官网的Models页面,可以找到自己需要的大模型。
点击进入需要的大模型,选中具体的大模型参数,并复制下载命令
根据个人电脑性能选择不同参数的大模型,具体的电脑配置对应的大模型参数可自行查询

在PowerShell 或 CMD 中输入复制的命令,等待模型下载。
由于需要在Dify中 搭建知识库,并使用智能体,需要安装一个LLM(大语言模型,也是系统推理模型),以及一个EMBEDDING模型(知识库文档嵌入处理模型)
LLM模型推荐deepseek-r1, qwen3
embedding模型推荐bge-m3:latest
5. 验证模型下载
在 PowerShell 或 cmd 中输入
ollama list
# 用于查询已安装的大模型
ollama run [模型名]
# 用于运行大模型

当输入运行指令后看到
Send a message (/? for help)
则说明大模型已成功安装在本地并可以运行
第五步:Dify配置本地大模型
dify 调用本地大模型不需要使用API,不要钱
但是一般个人电脑的性能限制了本地大模型的性能
进入Dify主界面,点击 头像 ➡️ 设置 ➡️ 模型供应商

由于我们使用了ollama配置本地模型,所以在模型供应商中找到Ollama插件下载。
下载时间可能有点长,需要耐心等待
下载完成后界面如下图所示
点击添加模型(将部署在本地的LLM和embedding模型都添加进去)
模型名称:在PowerShell中通过ollama list命令查询
模型类型:大语言模型选择LLM,知识库文档嵌入处理模型选择embedding模型
基础URL: http://localhost:11434 (只要是本地部署的模型都填写该地址)
模型添加完成后效果如下所示
点击右上角的 系统模型设置 ,选择 系统推理模型 与 embedding模型
第六步:构建本地知识库
进入dify主界面,知识库 ➡️ 创建知识库
导入已有文本 ➡️ 上传文件 ➡️ 下一步
分段设置不用改
索引方式选择 高质量
选择 本地添加的Embedding模型
检索设置不用改
最后保存并处理
第七步:搭建智能体🤖
在Dify主界面选择创建空白应用,进入下图所示界面
点击 新手适用 ➡️ Agent ➡️ 填写应用名称与描述 ➡️ 创建
右上角选择大模型 ➡️ 输入提示词 ➡️ 选择知识库和工具 ➡️ 在调试与预览界面进行调试
调试完成后,点击发布,选择运行。
✅ 至此,完成本地部署Dify智能体并搭建本地知识库!
引用文章
dify平台配置本地化的模型
Windows本地化部署Dify完整指南
Windows 环境下安装 Docker 的详细教程(超详细图文)
新手小白也能学会的Dify本地部署教程(超详细)
更多推荐
所有评论(0)