AI应用（智能体Agent）架构设计
至于MCP最后会不会一统天下，成为一个国际的标准现在还不好说，但是现在在业界的认可程度很高，很多厂商纷纷接入。整体来说在AI发展的过程中还是比较混乱的，各种新概念和协议层出不穷，有的只是一时的，有的或许最后就成为一种标准了，但这都不好说，所以为了稳妥起见，再给大家提供下面最传统的不依赖于MCP通信的架构。给你学习，我国在这方面的相关人才比较紧缺，大模型行业确实也需要更多的有志之士加入进来，我也真心
今天跟大家聊聊现在的企业AI应用架构。请参考下面我绘制的架构图：
首先我们先要明确一个概念，AI应用是一个泛指的概念，而我们传统意义上说的智能体也可以叫做AI应用。
大多数场景下，企业开发AI应用往往面临着这几种情况：需要接入或扩展企业内部已有的各种业务系统，加入AI功能；需要接入一些三方系统或AI应用；从0构建一款AI应用，接入已有的业务数据。而这次给大家展示的AI应用架构，包含了上述场景。下面详细跟大家进行说明：
架构详解：
1、应用网关，主要负责处理用户发过来的请求，流量进入API应用网关之后，网关除了会进行一些传统的鉴权、安全、限流等处理之外，更重要的是要将用户请求，路由到对应的Agent业务。
而现在编写AI Agent可以有多种方式，主流是纯编码或低代码、或二者混合的方式。如果你的业务逻辑简单，包装Dify这种低代码平台进行创建Agent即可；如果想进行精准控制，灵活性和可控性强，一定是编码方式自己写（例如使用LangChain这种框架）。现在大多数场景下，企业用的是低代码平台+编码方式这两种混合的方式，不同业务、不同类型的Agent，选取合适的构建方式。
2、无论用哪种方式实现，AI Agent接收到请求后，发送给MCP网关，目的是先要获取可用的MCP Server信息和MCP Tool的信息。
3、可选操作，因为MCP网关可能维护了很多MCP信息，可以借助于LLM缩小MCP范围，减少Token消耗，所以可以向LLM网关发请求和LLM交互。
4、MCP网关将确定好范围的MCP Server及MCP Tool的信息列表返回给AI Agent。
5、AI Agent将用户的请求信息和从MCP网关处拿到的所有MCP信息通过LLM网关发送给大模型。
6、大模型经过推理后，将根据用户传入的请求信息，返回相关的解决问题的MCP Server和MCP Tool信息。
7、AI Agent拿到了确定的MCP Server和MCP Tool信息后，通过MCP网关对该MCP Tool做请求，返回需要的数据。
实际使用整体的流程上，会重复2～7间的步骤，多次循环。全景图如下：
后续还有一些流程没有讲到，例如通过上面第7步通过多次循环调用获取到各业务数据之后，最后再次通过LLM网关调用大模型，由大模型将信息统一进行处理后返回给终端。
通过MCP调用服务获取数据时，这里特别说明一下，如果是微服务架构，需要将MCP Server注册到注册中心才可以，否则无法发现后面的各业务微服务。
聊了这么久，可能有的小伙伴还不知道MCP是什么，简单补充下知识点：MCP（Model Context Protocol），就是一个开源协议，可以方便大模型用标准化的方式连接到各种外部数据源和工具，否则之前，主要是API访问的方式为主。
至于MCP最后会不会一统天下，成为一个国际的标准现在还不好说，但是现在在业界的认可程度很高，很多厂商纷纷接入。除此之外，还有最近新提出的A2A（Agent to Agent）和AG-UI（Agent to UI）协议。整体来说在AI发展的过程中还是比较混乱的，各种新概念和协议层出不穷，有的只是一时的，有的或许最后就成为一种标准了，但这都不好说，所以为了稳妥起见，再给大家提供下面最传统的不依赖于MCP通信的架构。
这个架构就没什么过多解释的了，也画的比较简单，AI Agent可以直接连接数据源获取数据，也可以通过API的方式获取数据（访问其他服务）。
----
最后总结一下，无论哪种架构（区别在于是不是用MCP方式去访问），都覆盖了企业常用的几种场景，AI应用在获取数据时，可直接连接数据源获取数据，AI应用接入企业内部各系统获取数据（图中举例的现有业务微服务方式和其他方式）和接入第三方服务。仅供大家可以参考。
如何学习AI大模型 ？
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓
这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】
读者福利： 👉👉CSDN大礼包：《最新AI大模型学习资源包》免费分享 👈👈
（👆👆👆安全链接，放心点击）
对于0基础小白入门：
如果你是零基础小白，想快速入门大模型是可以考虑的。
一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。
要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。
对于从来没有接触过AI大模型的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。（全套教程文末领取哈）
很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。
这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）
光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战项目来学习。（全套教程文末领取哈）
随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。（全套教程文末领取哈）
截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。（全套教程文末领取哈）
只要你是真心想学AI大模型，我这份资料就可以无偿分享给你学习，我国在这方面的相关人才比较紧缺，大模型行业确实也需要更多的有志之士加入进来，我也真心希望帮助大家学好这门技术，如果日后有什么学习上的问题，欢迎找我交流，有技术上面的问题，我是很愿意去帮助大家的！
这份资料由我和鲁为民博士共同整理，鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位，在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利，同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。
这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】
（👆👆👆安全链接，放心点击）
火山引擎开发者社区是火山引擎打造的AI技术生态平台，聚焦Agent与大模型开发，提供豆包系列模型（图像/视频/视觉）、智能分析与会话工具，并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长，新用户可领50万Tokens权益，助力构建智能应用。
更多推荐
29
0- 0
已为社区贡献185条内容
所有评论(0)