介绍:降低AI幻觉出现的概率,打造业务领域级的智能问答助手,采用开源平台快速搭建并实现

平台:Dify
版本:1.8.1

在这里插入图片描述

Dify1.8.1版本资料已上传至技术群!

如需安装Dify,请参考以下教程
Windows安装Dify教程

步骤一:启动

进入Dify的Docker目录,cmd回车
在这里插入图片描述
执行以下命令

docker compose up -d

验证
在这里插入图片描述
Dify1.8.1版本所包含镜像
在这里插入图片描述
浏览器访问

Chrome浏览器
http://服务ip:80

在这里插入图片描述

步骤二:创建知识库

点击知识库并创建
在这里插入图片描述
支持拖拽或打开文件管理器的形式上传文件
在这里插入图片描述
如需要更改上传文件大小限制,请参考以下博客
Dify解除上传文件大小15MB限制

点击"预览块"可查看文件内容,以及分块字符数
在这里插入图片描述
选择新安装的向量模型"embeddinggemma:latest",选择混合检索模式
在这里插入图片描述
Q1:为啥不选择向量检索或全文检索?

A1:因为混合检索包含向量、关键字检索两种方式,效果会更好些,其中还有排序模型用来精排"定顺序"!

由于文档被分块存储,rag检索时通过参数Top K用来控制返回的分块数,一般包含docId、splitContent等字段,Score是通过Document中会有一个打分,对每一个分块根据用户输入来打分,提高精准度

在这里插入图片描述
阅读过我写的Spring AI实现知识库搭建的文章,应该知道Spring AI源码中的Document字段score对应的就是混合检索中的"Score 阈值",其实底层都是一样的!

点击保存并处理,耐心等待文档向量化完成即可
在这里插入图片描述
其中绿色图标代表解析成功,红色代表失败,一般是文件太大或者向量模型未在系统设置中配置!

步骤三:召回测试

召回测试用来测试知识库的精准度,可根据需求进行调整;看过我用Langchain4j实现知识库搭建的文章,其中就包含“命中测试”的接口开发

在这里插入图片描述
这里的命中测试与召回测试作用相同
在这里插入图片描述
输入用户问题,点击测试即可看到效果,经过验证,回答内容与源文档一致
在这里插入图片描述
回复效果
在这里插入图片描述

步骤四:聊天助手搭建

点击新建应用,选择聊天助手
在这里插入图片描述
填写名称、描述等信息,点击创建即可
在这里插入图片描述
添加知识库,选择对应的材料,可配置大模型、更改参数、设置提示词
在这里插入图片描述
推荐阿里云百炼平台,可以切换模型
在这里插入图片描述
经过验证,与源文档内容一致,可调整模型参数来控制生成文本的多样性
在这里插入图片描述
回答完成后,会显示附件内容以及消耗Token等信息
在这里插入图片描述

步骤五:发布

经过提示词不断的优化,文档的添加,效果达标后,可以发布,并通过API接口的形式调用服务,实现前端页面自定义、需求自定义!

在这里插入图片描述
点击访问API,可查看接口文档、创建秘钥等
在这里插入图片描述

步骤六:开发

可以使用postman、Apifox工具调用接口是否能返回数据,通过后再开发相应接口,实现页面自定义效果

此步骤已省略,可参考以下博客
Java对接Dify的聊天助手API

至此,Dify搭建智能问答助手Demo版结束啦,资料已上传至技术群!

在这里插入图片描述
本人正在打造技术交流群,欢迎志同道合的朋友一起探讨,一起努力,通过自己的努力,在技术岗位这条道路上走得更远。QQ群号:952912771 备注:技术交流 即可通过!

加入技术群可以获取资料,含AI资料、Spring AI中文文档等,等你加入~

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐