英伟达发布 Nemotron 3.5 Super VL：1200 亿参数面向智能体，另推 24GB 本地模型

据 IT之家 10 月 15 日报道，英伟达推出开放多模态模型 Nemotron 3.5 Super VL，面向需要持续运行、完成多步骤任务的 AI 智能体。模型采用混合专家（MoE）架构，总参数量为 1200 亿、激活参数为 120 亿。英伟达称，其在单张 GPU 上执行智能体任务时，吞吐量最高可达同规模其他开放模型的 5 倍。同期亮相的还有 Nemotron 3.5 Bolt 端侧模型，其中 740 亿参数版本通过原生 2 位量化压缩至 24GB。

把多模态理解与工具调用放进同一模型

Super VL 将推理、指令遵循、工具调用，与文本、图像、文档和视频理解整合起来。它瞄准的不只是问答，而是代码测试与调试、跨网站信息检索、文档分析、网络安全威胁识别及视频内容检索等连续工作流程。

开发者可借助 NeMo 工具链，结合自有数据、工具、政策和工作流程进行后训练，调整模型行为。本次开放资源包括基础模型、后训练模型、NVFP4 量化权重，以及训练配方、数据集和强化学习环境。

• 图表推理：据英伟达披露，CharXiv 得分为 80.8%，结合 Python 代码解释后达到 84%。
• 智能体行为：Hermes Bench 和 LangChain 行为评估得分分别为 63.44% 和 87.05%，均高于其公布的 Nemotron 3 Ultra 对应成绩。
• 企业定制：Ramp 正将收据图像转为结构化 JSON，相关工作负载预计吞吐量最高提升 50%、延迟降低 90%。

部署优化的重点：降低持续运行成本

对于长时间工作的智能体，单次回答质量之外，等待时间和推理成本也决定了实用性。Super VL 采用投机解码、混合精度和上下文复用等技术。英伟达称，LiLiCorr 投机解码在 DGX Spark 上可将词元生成速度最高提升至 2.3 倍。

模型支持 NVFP4 量化：在 Blackwell 架构上使用 4 位权重与 4 位激活值，非 Blackwell 平台则使用 4 位权重与 16 位激活值。分布式部署方面，英伟达披露，在 16 张 B200 GPU、每名用户每秒生成 50 个词元的条件下，Dynamo 配合缓存优化，最多可服务 8 倍数量的用户，首词元延迟降低 85%。这些增益对应特定硬件与测试条件，不能直接等同于所有业务的实际收益。

24GB 端侧模型，为本地智能体增加选择

同步推出的 Bolt 74B-A9B 24GB 拥有 740 亿总参数、90 亿激活参数，面向本地智能体任务，支持 llama.cpp、vLLM、Ollama、Unsloth 和 LM Studio。需要注意，24GB 是模型压缩后的体积，不代表完整运行所需内存或显存上限，部署还需考虑上下文缓存等开销。

据报道，Super VL 与 Bolt 74B-A9B 24GB 已开放获取，可通过 Hugging Face、OpenRouter、ModelScope 等渠道取得相关资源。面向本地语音助手、交互角色和嵌入式界面的 Bolt E4B 4GB，则计划于 10 月 23 日推出。

这次发布体现了两条并行路线：企业侧强调多模态智能体的定制与服务效率，本地侧通过低比特量化降低模型体积。对开发者而言，评估重点应从参数规模转向真实流程中的任务完成率、工具调用稳定性与部署总成本。