MOSS-VL

MOSS-VL 是 OpenMOSS 生态系统中核心的多模态模型系列，采用基于交叉注意力（Cross-attention）的架构，实现视觉编码与认知推理的解耦，为离线图像与视频理解提供统一基座。模型原生支持模态交错，可在统一的流水线中处理文本、单图、多图、单视频、多视频以及图文/视频交错输入，无需繁重的预处理流程；持续视频流上的实时交互由同系列的 MOSS-VL-Realtime 提供。

模型总参数量 11.3B：48 层语言解码器初始化自 Qwen3-8B，每四层插入一层门控交叉注意力层（Gated X-Attention）；27 层视觉编码器以原生动态分辨率（4K–16.8M 像素）处理图像与视频帧；上下文长度达 256K tokens。通过为每一采样帧注入绝对时间戳，并采用专为交叉注意力通道设计的 XRoPE 位置编码，MOSS-VL 将文本与视频帧映射到统一的 (t, h, w) 三维时空坐标系，把推理过程锚定在精确的时间基准之上，从而精准感知事件的节奏与时长。

MOSS-VL 通过数据、参数、上下文三个维度的系统性扩展（Scaling）构建能力，四阶段预训练与指令微调共消耗约 1.37 万亿 tokens，支持中英文双语。本代交付三个同源模型——MOSS-VL-Instruct 承接离线对话与下游任务、MOSS-VL-Base 供继续预训练与微调、MOSS-VL-Realtime 面向实时交互，与前代 0408 两个模型共五个 checkpoint，全部以 Apache-2.0 协议开源。

• 视频理解： 绝对时间戳使模型原生适配可变帧率，支持细粒度动作定位、跨时段事件关联与速度、轨迹等运动分析；在 Minerva（40.5）、TOMATO（39.5）、VideoMME-Logical（17.1）等时序推理基准上领先同规模开源模型 4.9 分以上，EgoSchema 达 67.0，并覆盖 MLVU、LongVideoBench、LVBench 等长视频理解基准。

• 多模态感知： 原生动态分辨率下实现细粒度物体识别与空间推理，感知为最强能力域——MMBench-EN 88.1、POPE 89.4、V*Bench 89.0 均列同规模第一，MME-RealWorld（66.3）与 BLINK（78.0）以 8.9 分优势领先。

• 图像关键信息提取与多图推理： 识别图像中的文字内容（OCR），推理多图之间的逻辑联系与对比关系，支持单图、多图与图文交错输入。

• 文档布局解析： 将论文、报告等文档转化为 Markdown 格式，完成版面结构识别与信息提取；OmniDocBench 达 88.9，领先次优 4.0 分，DocVQA 89.6、ChartQA 87.8、OCRBench 86.1。

• 视觉定位（Grounding）： 支持指代表达定位与时空 Grounding，在对抗性定位基准 Ref-Adv 上以 57.0 分领先次优 7.7 分。

• 高效推理与部署： 视觉 token 不进入解码序列，服务延迟随视觉上下文增长更缓——单卡 H200 上首 token 延迟较同语言主干的 Qwen3-VL-8B 快 2.8–5.1 倍；SGLang 已官方支持，并提供 FP8/NF4 量化权重（单卡 24GB 显存即可推理）以及 LlamaFactory、ms-swift 开箱即用的微调支持。

离线评测：MOSS-VL-Instruct 与同规模开源模型对比（加粗为该基准最优，"–" 为官方未报告）：

注：MOSS-VL 评测采用 1 fps 采样、最多 768 帧；基线数据取自各官方报告。完整 39 项基准见技术报告 Table 5。

推理效率： 在单卡 H200、SGLang 部署、相同生成长度上限的实测条件下，MOSS-VL 相对同语言主干 Qwen3-VL-8B 的首 token 延迟（TTFT）优势随视觉上下文增长从 2.8× 扩大至 5.1×，端到端延迟优势从 1.9× 扩大至 4.3×；在相同视频输入下，MOSS-VL 因不做时序压缩而携带约两倍视觉 token，仍未在任何测点落后。

• 技术博客演示：架构动画、绝对时间戳与 XRoPE 示意、演示视频

• 了解实时交互模型 MOSS-VL-Realtime。