英伟达推出Nemotron 3 Ultra,推理成本较闭源模型骤降90%
创始人
2026-07-09 22:58:22
0

  英伟达近日发布开源大模型Nemotron 3 Ultra,凭借高性能与极低推理成本引发市场关注。该模型在LangChain深度智能体基准测试中取得开源模型组别最高准确率,同时推理成本仅为行业头部闭源模型的十分之一。

  Nemotron 3 Ultra总参数达5500亿,每token激活550亿参数,采用混合专家架构,融合Mamba-2、MoE和注意力层,并引入多token预测技术以提升推理速度。模型支持长达100万token的上下文窗口,专为复杂智能体工作流、长上下文分析和多语言推理等场景优化。

  性能方面,Nemotron 3 Ultra在智能体生产力测试PinchBench中取得91%的准确率,与Kimi K2.6持平,优于GLM 5.1和Qwen3.5。在长上下文测试Ruler @1M中,该模型以95%的成绩领先同类开源模型。吞吐量方面,其推理速度较GLM 5.1、Kimi K2.6和Qwen3.5分别提升5.9倍、4.8倍和1.6倍。

  成本优势是此次发布的核心亮点。英伟达与LangChain合作优化后,Nemotron 3 Ultra的单次推理运行成本较闭源大模型降低约90%,同时任务处理吞吐量同步提升。在SWE-bench和Terminal Bench 2.0测试中,该模型完成基准测试所使用的总token数和每轮token数均少于同类模型,智能体任务成本可降低高达30%。

  英伟达此次延续开放策略,同步发布了预训练、后训练和量化检查点,以及相关训练数据集。分析人士指出,Nemotron的推出并非为了与OpenAI等闭源模型直接竞争API服务,而是通过开放、可私有化部署的大模型,巩固其CUDA软件生态和硬件护城河,切入对数据安全要求严格的政企市场。

相关内容

热门资讯

长征五号B遥一运载火箭顺利通过... 2020年1月19日,长征五号B遥一运载火箭顺利通过了航天科技集团有限公司在北京组织的出厂评审。目前...
9所本科高校获教育部批准 6所... 1月19日,教育部官方网站发布了关于批准设置本科高等学校的函件,9所由省级人民政府申报设置的本科高等...
9所本科高校获教育部批准 6所... 1月19日,教育部官方网站发布了关于批准设置本科高等学校的函件,9所由省级人民政府申报设置的本科高等...
湖北省黄冈市人大常委会原党组成... 据湖北省纪委监委消息:经湖北省纪委监委审查调查,黄冈市人大常委会原党组成员、副主任吴美景丧失理想信念...
《大江大河2》剧组暂停拍摄工作... 搜狐娱乐讯 今天下午,《大江大河2》剧组发布公告,称当前防控疫情是重中之重的任务,为了避免剧组工作人...