-推荐关注-

-正文-

==========================

• 1. AI Agent的3个核心组件

• 2. AI Agent的规划能力

• 2.1 Task Decomposition 任务分解

• 2.2 Self-Reflection 自我反思

• 3. AI Agent的记忆机制

• 4. AI Agent的工具调用能力

---

AI Agent，即人工智能代理，一般直接叫做智能体。它是一种能够感知环境、做出决策并采取行动的系统。这些系统能够执行被动的任务，也能够主动寻找解决问题的方法，适应环境的变化，并在没有人类直接干预的情况下做出决策。

LLMs 的强大推理能力让 AI Agent 的表现跨越式提升。让Agent 向“决策性”转型。AI Agent的技术框架涉及多个层面，包括规划、记忆、工具和行动，其中规划、记忆、工具是AI Agent的3个核心组件。

1. AI Agent的3个核心组件

Planning 规划 : Agent需要具备规划(同时也包含决策)能力，以有效地执行复杂任务。这涉及子目标的分解(Subgoal Decomposition)****、连续的思考(即思维链)、****自我反思和批评(Self-critics)，以及对过去行动的反思(Reflection)

Memory 记忆 : 包含短期记忆和长期记忆两部分。短期记忆与上下文学习有关，属于提示工程的一部分，而长期记忆涉及信息的长时间保留和检索，通常利用外部向量存储和快速检索。

Tool 工具 : 包括 Agent 可能调用的各种工具，如日历、计算器、代码解释器和搜索功能等。由于大模型一旦完成预训练，其内部能力和知识边界就基本固定下来，而且难以拓展，因此这些工具显得尤其重要。这些工具可以扩展Agent的能力，使其能够执行更复杂的任务，

Agent基于规划和记忆来执行具体的行动。这可能包括与外部世界互动，或者通过调用工具来完成一个动作(任务)。

图1：组件

AI Agent 是通过一个完整的流程互相关联各个组件来处理和解决任务，见图2。

接收任务(Task Receiving) : Agent首先通过读入提示(即图中的查询+附加知识 +人设指示)来接收需要处理的任务。

记忆更新(Memory Update ) : Agent 根据具体任务更新系统的记忆，确保所有相关信息都是最新的，以便在处理任务时使用。

记忆检索(Memory Retrieval) : 由于记忆可能非常庞大，因此需要从记忆中检索相关信息，或者在必要时进行截断，以便高效处理信息。

任务规划(Task Plan) : 基于提供的结构化工具、记忆和查询提示，大模型生成一个包含任务名称的计划，计划包含后续步骤和动作，其中说明了需要调用哪些工具及参数。

工具执行(Tool Execution) : 如果在“任务规划”模块产生的是任务完成的信号那么循环将终止，并提示Agent任务完成，可以生成结论，否则，系统将调用并执行指定的工具。大模型在观察工具生成的指定格式的结果后，将其整合到任务记忆中。

总结(Concluding): 系统会总结出最终的答案，以完成整个任务处理过程

图2：流程

可以看出Agent执行任务时的循环非常重要。这个循环促使 Agent 不断反思，并根据当前状况判断是否完成任务。

2. AI Agent的规划能力

一个复杂的任务通常涉及许多步骤。AI Agent需要知道它们是什么，并且提前规划。

2.1 Task Decomposition 任务分解

思维链（Chain of thought ）: 模型被指示“逐步思考”，以利用更多的测试时间计算将困难任务分解成更小、更简单的步骤。CoT 将大任务转化为多个可管理的任务，并揭示了模型思考过程。

思维树(Tree of Thoughts，ToT) : 通过在每个步骤探索多种推理可能性，进而形成一种树状结构。思维树可以用不同的搜索方法，例如广度优先搜索(Breadth-First Search，BFS)或深度优先搜索(Depth-First Search，DFS)，并通过提示或投票来评估每个步骤

2.2 Self-Reflection 自我反思

自我反思是自主代理通过细化过去的行动决策和纠正之前的错误来迭代改进的重要方面。它在试错不可避免的真实世界任务中扮演着关键角色。

ReAct : 这个框架通过结合特定任务的动作和语言空间，让模型能够与环境交互，并生成推理轨迹。

Reflexion : 这是一个使 Agent 具备动态记忆和自我反思能力的框架。它通过帮助 Agent 回顾过去的行动来提高推理能力。

CoH(Chain of Hindsight ) : 这个方法通过向大模型展示一系列带有反馈的过去输出来鼓励大模型改进自己的输出

3. AI Agent的记忆机制

大模型形成记忆的机制可以总结为以下几种：

第一种是通过预训练形成记忆。大模型在大量包含世界知识的数据集上进行预训练在预训练中，大模型通过调整神经网络的权重，学习理解和生成人类语言，这可以被视为其’记忆”的形成过程。通过使用深度学习神经网络和梯度下降等技术，大模型可以不断提高基于输入预测或生成文本的能力，进而形成世界知识和长期记忆。

第二种是上下文互动。大模型在执行任务时，会将长期记忆和提供的上下文(也就是提示信息)结合起来使用。理想情况下，如果上下文包含与大模型的记忆知识冲突的任务相关信息，那么大模型应优先考虑上下文，以生成更准确和具有上下文特定性的回应。通过诸如知识意识型微调(knowledge-aware fine-tuning)等方法，可以增强大模型在使用上下文和记忆知识方面的可控性和鲁棒性。

第三种是通过针对特定任务的微调进行增强。大模型可以在更具体的数据集上进一步微调，以适应特定行为或提高特定任务的性能。例如，针对SAT(Satisfiability，可满足性)问题数据集进行微调的大模型在回答此类问题时会更加熟练。

第四种是大模型与外部记忆系统整合，通过提供长期记忆来增强大模型性能，使大模型能够记住和回忆过去的互动、理解用户的个性并提供更个性化的互动。这涉及动态个性理解、使用双塔密集检索模型的记忆检索，以及受艾宾浩斯遗忘曲线理论启发的记忆更新机制等。RAG 也可视为和外部知识系统整合的过程，这相当于给大模型提供了一个“外挂第二大脑”

RAG见：本地知识库，通过RAG来解决信息的精准生成

图3：RAG作为外部记忆被AI Agent整合

4. AI Agent的工具调用能力

工具使用是人类的一个显著和独特的特征。我们创造、修改和利用外部物体来做超出我们身体和认知极限的事情。调用工具的能力被视为 Agent的核心技能之一。这些工具可以提供额外的数据、处理能力、专业知识或其他资源，使 Agent能够执行更加复杂的任务。

Agent的能力和效率很大程度上取决于它们能否灵活地调用和利用各种工具。这些工具可以是应用程序、数据库、机器学习模型，甚至是其他 Agent。

图4：工具

ChatGPT 插件（Plugins ）和 OpenAI API 函数调用（ function calling）是实践中的良好示例，LLMs通过工具能力得到增强。工具 API 的集合可以由其他开发者提供或自行定义

零基础入门AI大模型

今天贴心为大家准备好了一系列AI大模型资源，包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

有需要的小伙伴，可以点击下方链接免费领取【保证100%免费】

点击领取 《AI大模型&人工智能&入门进阶学习资源包》

1.学习路线图

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源，但基本上都残缺不全的，这是我自己整理的大模型视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。

（都打包成一块的了，不能一一展开，总共300多集）

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档，有几百本，都是目前行业最新的。

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

5.免费获取

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码或者点击以下链接都可以免费领取【保证100%免费】

点击领取 《AI大模型&人工智能&入门进阶学习资源包》