🚀 大模型推理优化技术学习笔记资料库（持续更新中）

记录学习中遇到的一些优质博客、资料、视频、仓库等，欢迎参考与补充！

---

📚 精选内容

🔹 博客：KV 缓存优化技术之 MLA 技术（源自 DeepSeek V2）

内容概要：这篇博客深入剖析了由 DeepSeek V2 研发的 KV 缓存优化方法 —— MLA 技术的原理

---

🔹 视频：Attention 变种 GQA / MLA / MQA 区别讲解

内容概要：通过可视化方式比较三种 Attention 结构的异同，讲解清晰，适合初学者入门或进阶者复习结构差异。

---

🔹 博客：ML system 入坑指南

内容概要：包含了大量的机器学习系统相关学习资料连接，涵盖了OS，并行计算，分布式系统，ML，LLM等

---

🔹 博客：涵盖训练&微调&推理等

内容概要：知乎猛猿小姐姐的图解大模型技术系列文章汇总

---

🔹 博客：GPU编程入门基础

内容概要：这是比较火的谭升的博客，适合GPU编程入门

---

🔹 课程：机器学习系统课程

内容概要：《机器学习系统：设计和实现》由华为MindSpore团队制作

---

🔹 课程：AI System

内容概要：ZOMI酱制作的AI系统全栈内容

---

🔹 16种RAG技术

内容概要：ZOMI酱制作的AI系统全栈内容

---

📌 贡献

😺 如果你也有不错的资源推荐，欢迎评论，一起完善这个仓库！