资讯›热点›正文

英伟达发布Nemotron 3.5开源模型:1200亿参数旗舰与边缘小模型亮相

疏影横斜 2026-10-16 01:04 阅读 8 热点
英伟达宣布扩展Nemotron开源模型家族,推出面向企业智能体的1200亿参数视觉语言模型Nemotron 3.5 Super VL,以及两款分别可在24GB和4GB显存运行的边缘小模型,覆盖从数据中心到本地终端的智能体部署。

10月15日,英伟达宣布扩展Nemotron开源模型家族,正式推出面向智能体(AI Agent)应用的大型视觉语言模型Nemotron 3.5 Super VL,同时发布两款专为边缘设备打造的轻量模型Nemotron 3.5 Bolt,进一步完善从数据中心到终端设备的AI部署体系。

英伟达发布Nemotron 3.5开源模型:1200亿参数旗舰与边缘小模型亮相

此次发布的核心产品Nemotron 3.5 Super VL拥有1200亿参数,采用稀疏混合专家架构,每个token激活约120亿参数。英伟达表示,该模型主要面向企业级AI智能体,能够执行指令跟随、工具调用、多步业务流程与视觉理解等复杂任务规划,在其基准测试中达到同量级开放模型的最优准确率,吞吐量比同量级次优模型快至5倍。与其最大规模推理模型相比,Super VL以约五分之一的参数量实现了相当的准确率,官方公布的评测数据包括Hermes Bench 63.44%、LangChain行为评测87.05%以及图表推理CharXiv 80.8%。

与旗舰模型同步亮相的还有两款边缘模型。Nemotron 3.5 Bolt 74B-A9B 24GB采用原生2比特量化,可在24GB显存内与其他应用并行运行,面向RTX与DGX Spark上的本地智能体任务;Nemotron 3.5 Bolt E4B 4GB则面向GeForce RTX、Jetson等设备上的对话与物理智能体,将于10月23日上线。三款开放模型共同覆盖从企业服务器到边缘设备的完整部署梯度。

在生态层面,Scale AI、Atlassian、CrowdStrike、Perplexity、Salesforce等数十家机构正基于Super VL进行后训练与产品集成,覆盖金融文档、网络安全、工程设计、医疗理赔等场景。模型权重、数据集与训练配方同步上线Hugging Face、OpenRouter与ModelScope,企业也可通过NVIDIA NIM微服务与Dynamo推理框架部署,官方称可支撑至多8倍用户并发并降低85%延迟。

背景上,Nemotron家族已形成清晰分工:8月发布的Lightning负责高吞吐负载,Ultra攻坚最难推理任务,新成员Bolt把智能体能力带到边缘。此次大模型与小模型同步发布,反映出英伟达正从GPU硬件向基础模型、推理框架与开发工具延伸,构建覆盖云端到终端的完整AI计算生态,也契合行业从单纯追求参数规模转向全栈部署效率的趋势。

读者评论 (0)

想参与讨论?请 登录 后发表评论。

还没有评论,欢迎抢沙发!