英伟达推出Nemotron 3.5 Super VL与Bolt 两款开源模型
英伟达近日推出两款新的开放权重模型,分别面向常驻运行的企业级智能体与边缘计算场景。其中Nemotron 3.5 Super VL是一个1200亿参数的混合专家(MoE)多模态模型,每token激活约120亿参数;另一类是更轻量的Bolt模型,可在搭载RTX Spark芯片的新一代AI PC与DGX Spark工作站上本地运行。

Super VL将推理、指令遵循和工具调用能力,与文本、图像、文档及视频理解整合进同一个模型。英伟达称,在单张GPU上执行智能体任务时,其吞吐量最高可达同规模其他开放模型的5倍,输出速度超过600 TPS。在Hermes Bench与LangChain行为评测中,它分别取得63.44%与87.05%,高于自家更大的Nemotron 3 Ultra;在CharXiv图表推理基准上得分80.8%,结合Python代码解释后达到84%。

在落地层面,多家企业已基于该模型做后训练。金融运营平台Ramp将收据图片转为结构化JSON,预计吞吐量提升50%、延迟降低10倍;AI21与AI安全公司Alice合作,把模型用于威胁情报与漏洞分析,准确率提升约41%;英伟达还列出了Skydance、EY、Ramp、CrowdStrike、Perplexity与Salesforce等使用方。
从定位看,Super VL填补了英伟达Nemotron家族的中间档:Lightning负责高吞吐文本,Ultra攻坚最难的推理,而Super VL与Bolt则把强大的多模态与智能体能力下沉到企业服务器乃至个人PC。开源模型与软件副总裁Kari Briski表示,任何希望在英伟达基础设施上运行智能体的机构,如今都能按自身层级获得开放且经过优化的模型,不必在能力与可部署性之间取舍。

对开发者而言,这套开放权重支持用NeMo工具链做监督微调与LoRA,并可借助Hugging Face上的开放数据集补充行业数据。随着智能体从云端走向桌面与边缘,英伟达正把「开放模型+本地算力」的组合,做成一张面向Agent时代的基础设施牌。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!