实践DeepSeek本地部署知识库的成功与失败
总结: 1)要投喂有逻辑关联的内容,最好是有结论的报告之类的文章,这样识别出来的内容比较精准 2)不太实用或无法真正能够落地,随便提问一个问题都要先等10秒左右才有反应,然后思考几秒到几十秒,算下来一个问题30秒左右,无法忍耐,不知是不是我配置或机器的问题 3)思考如何实用化,能落地给企业使用,实现企业数智化
.先看我的机器主要配置:


2.我安装的软件及模型
1)Ollama
2)模型DeepSeek-R1-7B
3)Chrome的插件Page Assist插件
具体怎么安装,我是完全按照如下的文章实践的,可行
DeepSeek 本地化部署+个人知识库搭建与使用,三步搞定!详细教程https://www.toutiao.com/article/7467594781166748200/
3.我的实践结果截图分享



4.重点来了,我要说明是怎样得到这样的效果的
4.1)首先我要说明我的失败,我原计划用人工智能任意统计我1万多条公司员工报销的序时账,可是理想很丰满,现实很骨感,用了1个半小时
RAG设置是这样的


耐心等待的状态是这样的

结果是这样的..

答案完全不对
4.2)总结失败教训,不能将资料库不经过清洗整理就投喂,应该按照可理解的方式组织文字,于是用kimi帮我写了简单的商业计划书,然后改进了用数据描述的具体目标
投喂的文档内容

这回上传处理5秒就好了

再做提问就得到了前面所看到的答案
总结:
1)要投喂有逻辑关联的内容,最好是有结论的报告之类的文章,这样识别出来的内容比较精准
2)不太实用或无法真正能够落地,随便提问一个问题都要先等10秒左右才有反应,然后思考几秒到几十秒,算下来一个问题30秒左右,无法忍耐,不知是不是我配置或机器的问题
3)思考如何实用化,能落地给企业使用,实现企业数智化
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)