大言不惭的说，杭州的大厂都快被我面完了，我觉得这个问题我可太有发言权了哈哈哈哈

技术面基本围绕以下几个方面：项目问题、 transformer相关的nlp问题、大模型相关的模型和优化问题（重点是数据处理方法和微调）、大模型原理相关的问题（RLHF、PPO等强化学习问题）。

以下都是我面试中被真实问到的问题，文章最后附上答案。

1. transformer相关的nlp问题：

• 介绍一下transformer原理、历史

• Tramsformer有几种mask？

• 除了gpt，还了解其他的吗？知道bert吗？gpt和bert什么区别

• 大模型的网络可以把transformer换成bert吗？

• 介绍transformer的qkv

• 有哪些掩码方式，transformer中用了哪些？作用是什么？

• 位置编码是什么？有哪些类型

• 除了注意力和自注意力，还了解什么

• 自注意力的公式

• 千问1.5之后GQA和自注意力机制的差别

2. 大模型相关的模型和优化问题（重点是数据处理方法和微调）：

• 知道哪些微调方法？

• 介绍LORA微调的原理

• Lora微调的AB矩阵是怎么起作用的

• 你的微调数据是什么格式

• Lora训练用了多少资源？用了多久？

• 你的数据是怎么处理的？

• 模型有没有做量化

• Agent你的理解

• Embedding有没有调整？

• LoRA微调的效果

• 各种大模型的结构上有什么区别

• 微调了解哪些？LORA微调和全量微调的区别

3. 大模型原理相关的问题（RLHF、PPO、DPO等强化学习问题）：

• PPO算法全名是什么？原理？历史？on policy还是off policy？怎么做到的off policy？重要性采样什么意思？

• Ppo解决了什么问题？它的优势？

• Ppo怎么让新老策略相差不太大的？

• SFT和RLHF是什么，分别适用什么样的场景？大模型RLHF是怎么做到不遗忘通用知识的？

• 大模型RLHF的过程

• DPO原理？优缺点是什么？DPO的损失函数是啥样的？

• SFT和强化学习适用的场景有什么区别？

• PPO有几个网络

• PPO调参有哪些

4. 问得最高频的项目问题：

• 先介绍一下你这个项目吧

• 项目几个人做的？你的角色是什么？

• 在这个过程中你觉得最大的困难是什么？怎么解决的？

• 你觉得还有什么可以优化的地方

• 项目经过过几轮迭代和变更？

• 有没有考虑过其他方法解决这个问题？为什么最终决定采用这种方法？

• 为什么选择这个大模型？有没有尝试过其他的模型？这个模型的优势是什么？

• 用的多大的模型，为什么？硬件是什么？

如何学习AI大模型？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

想正式转到一些新兴的 AI 行业，不仅需要系统的学习AI大模型。同时也要跟已有的技能结合，辅助编程提效，或上手实操应用，增加自己的职场竞争力。

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高

那么针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈

学习路线

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓