【一文读懂】端到端、VLA、强化学习、世界模型怎么理解?

香港大学 Hongyang Li 在 CVPR 2025 WAD 上这篇报告,我觉得算是讲清楚了:《End-to-end Autonomous Driving: Past, Current and Onwards》。

翻译过来就是《端到端自动驾驶技术的前世今生》。

重点在于下图: 他把 UniAD 这一类工作放在端到端早期阶段,也就是 Modular E2E Planning;再往前,是面向 Drive AGI 的 World Engine,也可以理解为端到端自动驾驶 2.0。

早期端到端1.0主要靠什么训练:模仿学习。

简单说,就是人类司机在这个场景下怎么开,模型就学着怎么开。它解决了从“看见世界”到“做出动作”的映射问题,但也留下两个麻烦:第一,人类司机未必总是最优;第二,真实数据里低频高危场景太少。

那么我们必须往前走,也就到了现在的1.5 阶段:Foundation Models 基础模型时代。

1.5时代面临两个技术难题,分别是语义瓶颈和长尾瓶颈。

两个技术难题都需要解决,但各家着手的重点不同,于是就衍生出不同技术路线。这也是为什么现在行业里术语特别多:VLA、VLM、世界模型、强化学习、端到端、World Engine……如果大家都一样,那就相安无事,也懒得天天讲;正因为各不相同,才需要反复讲,讲自己的优势在哪里。

这让我想起量子力学的故事:海森堡搞矩阵力学,薛定谔搞波动力学,两套理论创立初期语言、思路完全割裂,两派还激烈争论。1926 年薛定谔率先从数学上论证二者可以互相推导、观测结果完全一致。那篇论文的名字很霸气,我还记得:《论海森堡-玻恩-约尔丹量子力学与我的量子力学之间的关系》。

回到智能驾驶,也是这样:

第一条路线,是先解决语义瓶颈,也就是 LLM / VLM / VLA 这一支。

它试图把语言、常识和高层语义接进驾驶模型。如此一来,车就能“听老司机讲”、“上网刷事故视频”、读交通规则,从人类积累下来的经验里补课。

它自己也许从没经历过某个 corner case,但听说过、看过、理解过,下次真遇到时,总归会好一些。也就是说,以前端到端都是在数据中自己练,现在让他识字允许他上网听老司机讲安全驾驶了,那理论上进步是快不少。

就我个人体验来说,学完车之后前10000公里主要就是自己练,后来意识到自己的一些驾驶行为多么危险,惊出一身冷汗,就主动去刷视频学学防御性驾驶技巧。某种意义上来说,这就是我本人从模仿/强化学习阶段进入了VLA阶段。

第二条路线,是先解决长尾瓶颈,也就是世界模型与强化学习这一支,并进一步走向 World Engine。

这里要注意,World Model 和 World Engine 不是同一个词。前者更像后者的一个组件。比如蔚来 NWM 说的是 Nio World Model;华为乾崑 WEWA 里的 WE,则是 World Engine,完整架构是 World Engine / World Action Model。

这条路线的思路是:先别让我识字,也别急着让我听老司机讲课,而是给我构建一个极为逼真的极品飞车游戏,让我天天在里面练。练 10 万公里、100 万公里,效果未必比上网刷题差。

既然是练,就有成功、有失败。正确的动作强化一下,错误的动作下次别犯,这就是强化学习(Reinforcement Learning,RL)

回想那些 80 年代就拿驾照的老司机,他们哪有条件上网刷题?没办法,纯靠自己练,也能练成老司机,甚至经验更老道。毕竟很多时候,听来的不如练出来的。

但这种练法有两个问题:
一是,练出事故了怎么办?
二是,现实世界练 10 年太慢了怎么办?

这就是 World Model / World Engine 要解决的事:让你进入一个虚拟世界,在里面撞车也不伤现实肉身,就像《明日边缘》里的汤姆克鲁斯一样;让你进入一个“一秒万年”的训练场,在里面练了一万年,回到现实世界也只是1秒。

VLA 通过学习老司机来提升水平,World Engine 通过更安全、更高效的强化学习试错来提升水平。一个补语义,一个补经验;一个像读书听课,一个像下场训练。端到端 1.5 之所以必然分岔,就是因为它同时被这两个瓶颈拉扯:既要更懂世界,又要更会处理没见过的危险。

根据Hongyang Li教授的观点,真正的 2.0可能不是二选一。所以你会看到现在搞VLA的,也开始提到强化学习、世界模型这些概念了。

这次讲的,大家能看懂吗? 可以评论区指出讲得不好的地方,我继续展开。按原计划,下期就讲“世界模型”的差异 —— 都是世界模型,水平可能差距很大!

​最后

我在一线科技企业深耕十二载,见证过太多因技术更迭而跃迁的案例。那些率先拥抱 AI 的同事,早已在效率与薪资上形成代际优势,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。

我整理出这套 AI 大模型突围资料包:

  • ✅AI大模型学习路线图
  • ✅Agent行业报告
  • ✅100集大模型视频教程
  • ✅大模型书籍PDF
  • ✅DeepSeek教程
  • ✅AI产品经理入门资料

完整的大模型学习和面试资料已经上传带到CSDN的官方了,有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇
​​
在这里插入图片描述

为什么说现在普通人就业/升职加薪的首选是AI大模型?

人工智能技术的爆发式增长,正以不可逆转之势重塑就业市场版图。从DeepSeek等国产大模型引发的科技圈热议,到全国两会关于AI产业发展的政策聚焦,再到招聘会上排起的长队,AI的热度已从技术领域渗透到就业市场的每一个角落。

img
智联招聘的最新数据给出了最直观的印证:2025年2月,AI领域求职人数同比增幅突破200% ,远超其他行业平均水平;整个人工智能行业的求职增速达到33.4%,位居各行业榜首,其中人工智能工程师岗位的求职热度更是飙升69.6%。

AI产业的快速扩张,也让人才供需矛盾愈发突出。麦肯锡报告明确预测,到2030年中国AI专业人才需求将达600万人,人才缺口可能高达400万人,这一缺口不仅存在于核心技术领域,更蔓延至产业应用的各个环节。

在这里插入图片描述

​​
在这里插入图片描述

资料包有什么?

①从入门到精通的全套视频教程⑤⑥

包含提示词工程、RAG、Agent等技术点
在这里插入图片描述

② AI大模型学习路线图(还有视频解说)

全过程AI大模型学习路线

在这里插入图片描述

③学习电子书籍和技术文档

市面上的大模型书籍确实太多了,这些是我精选出来的

在这里插入图片描述

④各大厂大模型面试题目详解

在这里插入图片描述

⑤ 这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理,鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位,在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利,同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

所有的视频教程由智泊AI老师录制,且资料与智泊AI共享,相互补充。这份学习大礼包应该算是现在最全面的大模型学习资料了。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。

在这里插入图片描述
在这里插入图片描述

智泊AI始终秉持着“让每个人平等享受到优质教育资源”的育人理念‌,通过动态追踪大模型开发、数据标注伦理等前沿技术趋势‌,构建起"前沿课程+智能实训+精准就业"的高效培养体系。

课堂上不光教理论,还带着学员做了十多个真实项目。学员要亲自上手搞数据清洗、模型调优这些硬核操作,把课本知识变成真本事‌!

​​​​在这里插入图片描述
在这里插入图片描述

如果说你是以下人群中的其中一类,都可以来智泊AI学习人工智能,找到高薪工作,一次小小的“投资”换来的是终身受益!

应届毕业生‌:无工作经验但想要系统学习AI大模型技术,期待通过实战项目掌握核心技术。

零基础转型‌:非技术背景但关注AI应用场景,计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能 ‌突破瓶颈:传统开发者(Java/前端等)学习Transformer架构与LangChain框架,向AI全栈工程师转型‌。

👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓**

在这里插入图片描述

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐