8 月 10 日,Qwen 团队(QwenLM 组织)在 GitHub 上线 Qwen-MM-Plugins 仓库,Apache-2.0 许可证。它不是模型、不是 UI、不是 harness,是一层「让任何 agent harness 原生支持多模态」的协议插件——核心承诺是「Make any agent harness multimodal-native」。同一天 commit 记录显示 feat(omni-av): add Qwen-Omni audio/video understanding capability,把 Qwen-Omni 模型的音视频理解能力作为新能力插件加入。
这意味着 Qwen 团队在 8-08 Agent Plugins 1.0.0(topicId 178603067)那一波协议层军备竞赛里没有缺席——他们用「多模态能力插件」这条赛道做出了差异化。Vercel 牵头的 Agent Plugins 1.0.0 是「协议层」的标准化,Qwen-MM-Plugins 是「多模态能力」的标准化——两者合起来,才是「任何 agent harness 都能开箱即用地调用任何 AI 能力」的完整图景。
把仓库结构摊开看,Qwen-MM-Plugins 走的是「Skill + MCP Server 双重组合」的路线——每个能力插件 = Skill(让模型知道工具存在)+ MCP Server(工具本体实现)。这种设计的核心好处是 harness 解耦:你不用动 Claude Code / Codex / Qoder / OpenClaw / Qwen Code / Gemini CLI / opencode / pi / QwenPaw 这些 harness 的代码,加一个 MCP 配置就能让它们「看到」这些能力。
七个大能力插件各管一摊:
– core(基础视觉)——Qwen 团队的核心插件,默认安装。功能包括 dynamic-resolution 读图(4K 截图、文档页、3D 模型、PDF 自动按 VL 模型 patch 网格切分,无需手动 resize)、OCR、grounding(画框)、分割、ASR、视觉聊天、web 搜索(需 Serper API key)、image search、media info 元数据读取。 – video-memory(长视频记忆)——分层图记忆机制,支持超长视频(>2 小时)的 QA。memory 是分层图结构而不是线性 KV cache,所以查询效率随视频长度增长保持稳定。 – omni-av(Qwen-Omni 音视频理解)——8 月 10 日新加的能力。基于 Qwen-Omni 模型,提供 7 个核心工具:omni_asr(纯文本语音转写)、omni_asr_timestamped(带 SRT 字幕的句/词级时间戳)、omni_multi_speaker_asr(多说话人识别与分离)、omni_av_caption(按时间段描述音视频内容)、omni_av_grounding(按文本查询定位事件发生时间)、omni_av_counting(统计事件/动作/对象出现次数)、omni_music_caption(音乐曲风/情绪/乐器/调性/人声标签)。 – video-edit(视频编辑 + 生成)——视频剪辑工作流 + 图像/视频/音频生成工具集成。 – blender(3D 建模)——22 个工具的 Blender 远程驱动。瘦客户端模式:本地必须装 Blender,通过 Python 远程驱动。 – freecad(参数化 CAD)——14 个工具的 FreeCAD 远程驱动。同样瘦客户端模式,支持 STEP/STL 导入导出、FEM 分析。 – edu-agent(教学讲解视频)——把数学/科学题目转中文讲解视频。纯 skill 模式,没有 MCP——能力是直接给 agent 的 prompt 模板。
把这件事放进 8 月 AI coding 工具链的主线里看,Qwen-MM-Plugins 把「多模态能力」这个赛道从「模型内置」推到了「协议外挂」:
– 过去 12 个月——多模态能力是模型的「原生特性」。Qwen-VL、GPT-4V、Gemini 1.5 Pro、Claude 3.5 Sonnet 各自内置自己的多模态能力,开发者要在不同模型间切换就要为每个模型重写工具调用代码。 – 过去 6 个月——MCP 协议(Anthropic 11 月推出)开始把「工具调用」协议化,harness 可以通过 MCP 协议调用任何 server 暴露的工具。但多模态能力还是按模型绑定——你用 Qwen-VL 还是 GPT-4V 决定了你能读什么图、能做什么视频理解。 – Qwen-MM-Plugins 的回答——把 Qwen 的多模态能力拆成 7 个独立插件,每个插件走 MCP 协议对外暴露。harness 只要加一个 MCP 配置就能调用 Qwen 的多模态能力,不用绑死在 Qwen 模型上。
具体落到 AI coding 工作流上的好处:
– 「AI coding 工具看到图片」这件事第一次有标准——之前 Claude Code / Codex / opencode 各自有自己的图像读取方式(Claude Code 用 Read 工具读图,Codex 用 vision API,opencode 用 file include 机制)。Qwen-MM-Plugins 把「读图」做成一个 MCP 工具 vision_chat,任何 harness 加一个 MCP 配置就能拿到。
– 「AI coding 工具编辑 Blender」这件事第一次有解——之前要让 agent 改 Blender 模型,开发者要自己写一个 Python server 接 Blender。Qwen-MM-Plugins 提供了 22 个 Blender 工具的薄包装,开发者直接用 MCP 配置就能驱动本地 Blender。
– 「AI coding 工具看长视频」这件事第一次有 memory 模型——之前 agent 看 2 小时视频的方案是「全帧塞上下文」或者「用 summarization 压缩」。Qwen-MM-Plugins 提供了 video-memory 插件的「分层图记忆」机制,memory 增长保持对数级。
– 「多模态能力的可移植性」第一次被协议保证——开发者用 Qwen-MM-Plugins 把多模态能力接到 Claude Code,再换到 Codex 也不用改代码——只要换 MCP 配置即可。
几件值得拎出来说的事:
– Qwen 团队在 8 月 AI coding 工具链的协议层军备竞赛里没缺席——8-08 Agent Plugins 1.0.0 是 Vercel 牵头的协议层(Vercel 首席 + 5 家维护,Anthropic 缺席),Qwen-MM-Plugins 是阿里牵头的「多模态能力层」——两者合起来是「任何 harness × 任何能力」的完整组合。
– Apache-2.0 主体 + MIT 例外——Blender 与 FreeCAD 插件里包含 MIT 许可证的第三方代码(因为它们要直接调用 Blender / FreeCAD 的 Python API),其它插件都是 Apache-2.0。这意味着对开发者来说协议层完全自由可用。
– 「安装一次、多端可用」是一行命令——curl -fsSL https://raw.githubusercontent.com/QwenLM/Qwen-MM-Plugins/main/install.sh | bash 装好核心插件,然后 Claude Code / Codex / Qoder / OpenClaw / Qwen Code / Gemini CLI 各自加一个 MCP 配置就能用。
– WSL2 是 Windows 用户的硬性要求——仓库的安装文档明确说「目前仅支持 WSL2(推荐 Ubuntu),需在 WSL 家目录下克隆仓库,不要放在 /mnt/c 等挂载盘」。这意味着 Windows 原生用户要走 WSL 路线,没有跨平台开箱即用。
– Cookbooks 还在 TBD——仓库里只有 core 的 cookbook 是完整内容,其它能力的 cookbook 都标着「TBD」(待补充)。这意味着 8 月 10 日发布时实际可用的演示主要是 core 能力,其它能力的开发者体验还要等仓库内容补齐。
– 6 种系统依赖——ffmpeg(音视频)、libreoffice(文档)、blender(3D)、texlive(LaTeX)、chromium(web 抓取)。装好全套需要在 Mac 上准备 2~3GB 磁盘空间和半小时时间。
– 依赖 Qwen 模型的 API——DASHSCOPE_API_KEY 是硬性要求,Serper API Key 是 web 搜索的可选项。这意味着 Qwen-MM-Plugins 不是完全独立的能力层,是 Qwen 模型生态的能力外包装。
把这件事放进 8 月 AI coding 工具链的主线下,它跟另外几个事件串成一条很清晰的线:
– 8-08 Agent Plugins 1.0.0(topicId 178603067)——Vercel 牵头的「协议层」标准化。 – 8-09 Microsoft SkillOpt(topicId 178603080)——经验层可移植。 – 8-10 OpenChamber(本文 Topic 1)——Harness / Runtime / UI 三层解耦。 – 8-10 Qwen-MM-Plugins(本文)——多模态能力层协议化。
8-10 这一步是 AI coding 工具链「全栈解耦」的关键时刻——harness(OpenCode)、runtime(OpenChamber)、能力层(Qwen-MM-Plugins)、经验层(Microsoft SkillOpt)、协议层(Agent Plugins 1.0.0)、模型层(Muse Glimmer)——每一个层面都有独立的开源实现可以替换,「AI coding 工具」从「单一厂商的产品」变成「可替换零件的组装机」。
事件源:
– Qwen-MM-Plugins GitHub:https://github.com/QwenLM/Qwen-MM-Plugins – Qwen-MM-Plugins README 中文版:https://github.com/QwenLM/Qwen-MM-Plugins/blob/main/README.zh.md – @Alibaba_Qwen 公告:https://x.com/Alibaba_Qwen/status/2086664887560970531 – 安装文档:https://github.com/QwenLM/Qwen-MM-Plugins/blob/main/docs/en/installation.md – Cookbooks 索引:https://github.com/QwenLM/Qwen-MM-Plugins/tree/main/cookbooks – 一行安装:https://raw.githubusercontent.com/QwenLM/Qwen-MM-Plugins/main/install.sh – DashScope API key 申请:https://dashscope.console.aliyun.com/apiKey – Serper API key 申请:https://serper.dev/
