阿里开放 Qwen3.8-2.4T-A95B 权重:2.4T MoE 架构,原生 256K 长上下文
据 IT之家 8 月 13 日消息,阿里云“魔搭 ModelScope 社区”公众号于 8 月 12 日深夜宣布,阿里 Qwen 团队正式开放 Qwen3.8-2.4T-A95B 模型权重。这是 Qwen-Max 级别模型首次开放权重,模型采用 MoE 架构,总参数规模达到 2.4T,每个 Token 激活 95B 参数,原生支持 262,144 Token 上下文,并可扩展至 1,010,000 Token。对于关注大模型能力演进、企业级 Agent 落地和长上下文应用的开发者来说,这是 Qwen 系列在开源生态中的一次重要推进。
来源显示,Qwen3.8 延续了 Qwen3.5 的混合架构路线,重点提升编程、办公、科研以及长周期 Agent 任务的端到端完成能力。官方云端版本 Qwen3.8-Max 基于此次开放权重模型构建,并加入更多面向生产环境的能力。官方公布的评测覆盖编程 Agent、通用 Agent、专业工作和长上下文等方向;与 Opus 4.8、Fable 5、GPT 5.6 Sol 等模型相比,各项结果互有高低,并在 PaperBench、IFBench 等 Benchmark 中取得所列模型中的较高成绩。
2.4T MoE 与 95B 激活参数意味着什么
Qwen3.8-2.4T-A95B 是一个因果语言模型,采用混合专家模型 MoE 设计。与传统密集模型不同,MoE 模型并不会在每次推理时激活全部参数,而是根据输入 Token 选择部分专家参与计算。来源信息显示,该模型总参数为 2.4T,但每个 Token 激活 95B 参数,这意味着它在参数容量和推理计算量之间进行了折中。
具体来看,模型每个 MoE 层包含 512 个专家,每个 Token 会选择 10 个路由专家,并同时激活 1 个共享专家。这类设计通常用于提升模型容量上限,同时控制单次推理成本。对于需要更强知识覆盖、复杂推理和多任务泛化能力的场景,MoE 架构能够提供更大的模型空间;但在部署侧,也会对推理引擎、显存调度、专家并行和集群通信提出更高要求。
值得注意的是,Qwen3.8-2.4T-A95B 还进行了多步 MTP(Multi-Token Prediction)训练。该机制面向支持相应能力的推理引擎,可为模型提供预测多个后续 Token 的能力。对于高吞吐推理、长文本生成和 Agent 连续执行任务来说,多 Token 预测有望改善生成效率,但实际表现仍取决于推理框架适配、硬件环境和应用负载。
长上下文与 Agent 能力是此次升级重点
此次开放权重的另一个核心看点,是 原生 262,144 Token 上下文,并可扩展至 1,010,000 Token。长上下文能力正在成为大模型从聊天工具走向生产工具的重要基础:无论是分析大型代码仓库、处理多份办公文档、阅读科研论文,还是维持多轮复杂任务状态,都需要模型在更长范围内保持信息一致性。
来源显示,Qwen3.8 重点提升了编程、办公、科研和长周期 Agent 任务的端到端完成能力。与单轮问答相比,Agent 场景更强调模型能否持续理解目标、拆解任务、调用工具、检查结果并迭代修正。对于开发者和企业用户来说,这意味着模型能力评估不再只看单题准确率,也要观察其在真实工作流中的稳定性、可控性和持续执行能力。
从官方介绍看,Qwen3.8-Max 的办公与 Agent 后训练主要围绕真实环境扩展、统一奖励系统和在线数据均衡展开。其训练思路不只是增加任务数量,而是试图让任务、工作空间和 Harness 等维度组合扩展,从而覆盖更多真实世界工作场景。
- 任务维度:从单任务扩展到多任务,再到跨天任务,面向更长周期的 Agent 执行。
- 工作空间维度:从多文件到层级目录,再到复杂异构目录,更贴近真实办公和研发环境。
- Harness 维度:覆盖不同类别、版本和技能,使训练环境不依赖逐一定制集成。
- 奖励系统:统一执行校验、文本与视觉输出评估,以及 agentic 检查,为不同环境提供一致反馈。
影响解读:高端模型开放权重将推动国内 AI 工具生态
Qwen-Max 级别模型首次开放权重,对国内 AI 开发生态具有较强信号意义。一方面,模型参数规模、长上下文和 Agent 后训练能力的公开,将为研究者和企业开发者提供更接近前沿闭源模型能力的基础模型选择;另一方面,2.4T MoE 级别模型的实际部署门槛较高,并不意味着普通团队可以低成本本地运行完整能力。
更现实的影响可能体现在云端推理、企业私有化方案、模型服务平台和垂直 Agent 产品上。对于 AI 编程、智能办公、科研辅助、知识库分析等方向,长上下文与复杂工作区理解能力将直接影响产品体验。尤其在代码仓库理解、多文档总结、跨文件修改和自动化工作流中,模型能否在长任务中维持一致目标,将成为区分工具可用性的重要指标。
同时,官方云端版 Qwen3.8-Max 基于开放权重模型,并加入更多生产环境能力,也说明开放权重与商业化服务并不矛盾。基础权重开放有助于扩大生态和验证能力边界,而云端版本则可以继续在稳定性、工具调用、安全控制、推理效率和服务保障方面形成差异。
总体来看,Qwen3.8-2.4T-A95B 的开放不仅是一次模型权重发布,更体现出大模型竞争正在从单纯参数规模,转向 长上下文、Agent 执行、真实任务后训练和推理工程 的综合比拼。对于中文 AI 生态而言,这类高规格模型的开放将进一步降低前沿能力的研究门槛,也会推动更多面向真实工作场景的 AI 工具加速迭代。