前言

在人工智能的世界里,记忆是智能体能够持续进化、理解用户并提供更个性化服务的关键能力。就像人类拥有短期记忆和长期记忆一样,大模型智能体的记忆机制也通常分为这两部分:

  • 短期记忆:类似于我们临时记住一个电话号码,过一会儿就可能忘记。大模型通过在输入中嵌入提示语句(prompt),借助自身强大的上下文理解能力来“记住”最近的对话内容。但这种记忆会随着上下文窗口的限制而被覆盖或遗忘。
  • 长期记忆:更像是我们记住一段旅行经历,或者对某个朋友的长期印象。智能体通过建立外部记忆库来实现知识和经验的持久化存储,可以在需要时随时检索出来,帮助它更高效地解决问题。

长期记忆的实现方式

长期记忆往往依赖于外部存储系统。这些记忆可以以灵活的形式存在,比如:

  • 简单的文本文件(存储对话记录或总结),
  • 结构化数据库(方便快速检索),
  • 或者更先进的向量数据库(例如 FAISS),能把知识片段转换成向量进行语义检索。

一种典型方法是 检索增强生成(Retrieval-Augmented Generation, RAG)。它的思路是:当模型要回答问题时,不仅依赖已有的参数知识,还会到外部记忆库里“查资料”,再把结果与自身推理结合。这就像学生在考试时,不光凭记忆,还能去查阅笔记,从而提升答案的准确性和时效性。

不过,这种方法仍然面临挑战:

  • 检索效率:数据库越大,找到有用信息就越困难。
  • 记忆库质量:如果存储的信息过多、冗余或不准确,反而可能干扰模型的判断。

MemoryBank技术:

研究人员提出了一个有趣的框架 —— MemoryBank。它试图模拟人类的记忆方式,不仅仅是机械地存储信息,还会对信息进行总结、提炼和遗忘

MemoryBank 包含三个核心模块:

  1. 记忆存储:保存对话记录、事件总结和用户个性分析,就像建立一个多层次的记忆档案。
  2. 记忆检索:根据上下文快速找到相关的“回忆”。它使用一种稠密向量检索方法(类似 Dense Passage Retrieval, DPR),把每条记忆片段编码成向量,再用 FAISS 进行高效搜索。
  3. 记忆更新:受到心理学中的 艾宾浩斯遗忘曲线启发。该理论认为,人类在学习后的最初几个小时内遗忘最快,之后遗忘速度逐渐放缓。如果不断复习,就能延缓遗忘的速度。MemoryBank 将这种机制引入到 AI 中,让它在合适的时候忘掉不重要的记忆,保留和强化真正重要的信息。

换句话说,MemoryBank 让 AI 不仅能记住,还能遗忘,从而表现得更接近人类。

层次化的记忆网络

人类不会对每一次对话都逐字逐句记下来,而是会形成不同层次的记忆,比如:

  • “今天早上和朋友聊了电影” → 每日总结
  • “最近我经常和朋友聊电影,说明我喜欢电影” → 全局总结

MemoryBank 也采用了类似的做法。它会把每天的对话总结成事件,再逐渐凝练成更高层次的总结。这种方法让 AI 能够获得一种“鸟瞰式”的记忆视角。

此外,MemoryBank 还会尝试理解用户的个性和情绪。例如:

  • 输入提示:“根据以下对话,请总结用户的个性特征和情绪。”
  • 或者:“以下是一段时间内用户表现出的特征,请给出一个简洁的个性总结。”

随着时间推移,AI 会逐渐形成对用户的全局理解,进而做出更贴心、更个性化的回应。

遗忘机制:

艾宾浩斯遗忘曲线通过公式 描述了记忆随时间的衰减:

  • R:记忆保留率

  • t:学习后的时间

  • S:记忆强度,取决于学习的深度和复习次数

在 MemoryBank 中,这一理论被简化成一个动态模型:

  • 当某段记忆首次出现时,记忆强度 S=1。
  • 如果这段记忆再次被调用,AI 会“复习”它,强度 S增加,遗忘概率降低。
  • 如果长期没有被调用,它会逐渐被遗忘,以释放记忆空间。

这种机制让 AI 在长时间交互中不会被无关信息“拖累”,而是像人类一样学会选择性记忆。

应用前景与挑战

带有记忆系统的 AI 智能体正在多个领域展现潜力:

  • AI 助理:可以记住用户的日程、习惯,甚至偏好,提供个性化建议。
  • 教育场景:记录学生的学习过程,跟踪知识掌握情况,并根据遗忘规律智能安排复习计划。
  • AI 伴侣:在长期交互中逐渐理解用户的个性与情感,提供更自然的交流体验。

但与此同时,也存在一些亟待解决的问题:

  1. 隐私和安全:记忆越完整,越可能包含敏感信息,需要安全的存储和访问控制。
  2. 记忆噪声:如何避免“记住”无用信息,保证记忆的简洁和高质量?
  3. 人性化平衡:AI 在遗忘机制上的设计要拿捏分寸,既不能“太健忘”,也不能“什么都记住”。

最后

为什么要学AI大模型

当下,⼈⼯智能市场迎来了爆发期,并逐渐进⼊以⼈⼯通⽤智能(AGI)为主导的新时代。企业纷纷官宣“ AI+ ”战略,为新兴技术⼈才创造丰富的就业机会,⼈才缺⼝将达 400 万!

DeepSeek问世以来,生成式AI和大模型技术爆发式增长,让很多岗位重新成了炙手可热的新星,岗位薪资远超很多后端岗位,在程序员中稳居前列。

在这里插入图片描述

与此同时AI与各行各业深度融合,飞速发展,成为炙手可热的新风口,企业非常需要了解AI、懂AI、会用AI的员工,纷纷开出高薪招聘AI大模型相关岗位。
在这里插入图片描述
最近很多程序员朋友都已经学习或者准备学习 AI 大模型,后台也经常会有小伙伴咨询学习路线和学习资料,我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师给大家这里给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频 全系列的学习资料,这些学习资料不仅深入浅出,而且非常实用,让大家系统而高效地掌握AI大模型的各个知识点。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

AI大模型系统学习路线

在面对AI大模型开发领域的复杂与深入,精准学习显得尤为重要。一份系统的技术路线图,不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点,还能提供一条高效、有序的学习路径。

img

但知道是一回事,做又是另一回事,初学者最常遇到的问题主要是理论知识缺乏、资源和工具的限制、模型理解和调试的复杂性,在这基础上,找到高质量的学习资源,不浪费时间、不走弯路,又是重中之重。

AI大模型入门到实战的视频教程+项目包

看视频学习是一种高效、直观、灵活且富有吸引力的学习方式,可以更直观地展示过程,能有效提升学习兴趣和理解力,是现在获取知识的重要途径

在这里插入图片描述
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述

海量AI大模型必读的经典书籍(PDF)

阅读AI大模型经典书籍可以帮助读者提高技术水平,开拓视野,掌握核心技术,提高解决问题的能力,同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说,阅读经典书籍是非常有必要的。
在这里插入图片描述

600+AI大模型报告(实时更新)

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
在这里插入图片描述

AI大模型面试真题+答案解析

我们学习AI大模型必然是想找到高薪的工作,下面这些面试题都是总结当前最新、最热、最高频的面试题,并且每道题都有详细的答案,面试前刷完这套面试题资料,小小offer,不在话下
在这里插入图片描述

在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐