项目整体架构

系统架构层级

接入层

Vue3、TypeScript、OpenAPI、FastAPI、SSE&WebSocket
功能层用户服务、会话服务、知识库服务、工具多种工具集成

模型层

Deep Seek V3 Completions

Ollama Restful API

数据层Mysql、Redis、Neo4j、LuaceDB、Memory、Local Disk
应用架构层

自定义工作流编排

LangGraph多代理架构

与构建业务规则库组件

安全护栏以及模型幻觉纠正

Text2cyper 自我修正

自定义外部工具集成

分布式文档解析

离线&在线索引构建

混合知识库检索

1、模型:项目集成Deep Seek V3的在线API接口以及通过ollama启动的开源模型,只要是ollama支持的模型都可以接入。

2、AI Agent开发框架:采用LangGraph构建Multi-Agent架构并且结合Langchain的组件化设计接入模型的集成功能。

3、用户意图识别:通过Langchain的PromptTemplate+Chain组件,接入LangGraph的图结构,实现用户的意图识别功能。

4、本地知识库构建:通过 Microsoft GraphRAG 组件,实现本地知识库的索引和查询,并作为子图接入到 LangGraph 的图结构。

5、Neo4j图数据库检索:预构建规则库,大模型根据用户意图自动生成Cypher语句,实现结构化知识库的检索,作为Langgraph的子图接入到图结构中。

6、多工具集成:通过LangChain的Tool组件,采用LangGraph图结构的Map-Reduce分支,实现多工具并行调用,并更具任务分解后的子任务进行结果汇总和处理。

7、FastAPI接口服务:通过FastAPI框架,对编译后的LangGraph图结构进行接口封装,提供和外部系统对接的标准化RestFul API接口服务。

总结一下:这个项目的核心采用的底层是LangGraph+Microsoft GraphRAG。

下一篇写写做本地私有化部署的过程。

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐