参考：Qwen3-VL源码解读-创新点速览

前置：Qwen2.5源码解读

2.5 和 3 中类对比速览
在这里插入图片描述

创新点一：采用交错式位置编码

由Qwen2.5的 TTT…HHH…WWW 编码方式变成THWTHWTHW…的编码方式
在这里插入图片描述

创新点二：采用deepstack分层融合视觉特征

Qwen3-VL(左边) 和Qwen2.5(右侧)代码对比， 可以看到多了红框中的 deepstack部分的处理

1 . 获取deepstack_feature

在这里插入图片描述

进入函数 get_image_features中，在视觉模型中获取存指定层的视觉feature在这里插入图片描述

在这里插入图片描述

其中 self.deepstack_merger_list是 Qwen3VLVisionPatchMerger类， 具体代码如下
在这里插入图片描述

在这里插入图片描述

2. deepstack_feature注入到LLM中

首先将 图片和视频的embed拼接起来， 然后传到 大预言模型中
在这里插入图片描述

具体代码实现
在这里插入图片描述

创新点三：T维度采用文本时间戳

在这里插入图片描述

在这里插入图片描述

Logo
火山引擎 ADG 社区

火山引擎开发者社区是火山引擎打造的AI技术生态平台，聚焦Agent与大模型开发，提供豆包系列模型（图像/视频/视觉）、智能分析与会话工具，并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长，新用户可领50万Tokens权益，助力构建智能应用。

更多推荐

OpenClaw 本地部署完整指南（Windows + Ollama）

本文档基于实际部署经验编写，旨在帮助你在 Windows 系统上从零开始搭建 OpenClaw，并连接本地 Ollama 模型（如 Qwen2.5 或 Qwen3），使其具备完整的智能体能力。文档包含了所有关键步骤以及常见问题的解决方案。

avatar 火山引擎 ADG 社区

OpenClaw 小白安装指南（Windows版）

（类似一个能自动执行任务的AI机器人），不是游戏。API Key只保存在你本地电脑的加密文件里，不会上传到任何地方。访问：https://github.com/miaoxworld/openclaw-manager/releases。: 一键安装脚本会自动安装Node.js 22+，如果失败，手动下载安装：https://nodejs.org/：在PowerShell中，鼠标右键就是粘贴，不需要按

avatar 火山引擎 ADG 社区

飞书 × OpenClaw 接入指南：不用服务器，用长连接把机器人跑起来

这个项目存在的意义，就是把“飞书接 OpenClaw”这件事，整理成一套的配置入口，并把官方文档没覆盖到的坑集中写成排查清单。先说清楚它的角色：OpenClaw 现在已经内置官方飞书插件 @openclaw/feishu，功能更完整、维护也更及时。，说明飞书 + AI 的接入已经走通。另外，仓库也推荐了一个新项目：把 OpenClaw 变成“多 Agent 团队”，用多个 Agent 分工，Sla

avatar 火山引擎 ADG 社区