英伟达发布Nemotron 3.5 Lightning:第三方测试部分验证其性能与成本主张
英伟达于8月11日发布Nemotron 3.5 Lightning,这是一款拥有300亿参数的开源权重模型。公司声称,该模型运行速度比同等规模模型快四倍,并将完成一项智能体任务的成本降至Anthropic旗下Opus 4.8独自运行成本的约三分之一。这一说法目前已有部分得到独立验证,其余部分仍仅基于英伟达的单方面陈述。
为何重要
这与英伟达7月推出的策略如出一辙——当时公司联合LangChain为Nemotron 3 Ultra发起了近乎相同的成本与速度宣传,声称在合作方背书下可削减74%的成本。除非有第三方先行验证,否则企业在决定AI基础设施时,只能依赖供应商提供的效率数据。
外部测试的实际发现
独立基准测试套件提供商Artificial Analysis(其测试不依赖英伟达)对Nemotron 3.5 Lightning进行了评估:在智能指数上得分为24,比早前的Nemotron 3 Nano高出9分,与OpenAI的gpt-oss-120b(模型规模约为其四倍)大致持平。在DeepInfra提供的预发布端点上,Artificial Analysis测得其中位输出速度接近每秒670个token,快于当前同等规模模型的典型服务速度。

此外,Ramp Labs将英伟达的新路由工具NeMo Switchyard应用于其内部编程基准Ramp SWE-Bench,并表示使用路由的智能体在实现与单一模型相当性能的同时,降低了成本和运行时间。Ramp Labs自身的博文并未给出具体削减幅度,而英伟达的博客则称Ramp实现了58%的成本削减和33%的运行时间削减——Ramp自身并未重复这些数字。
哪些仍仅为英伟达的单方说法
同一篇博客还列出了其他四个合作方的成果:Boomi实现了100%的路由准确率,并将59%的流量导向其声称运行速度快五倍的微调模型;Classmethod实现了27%的成本削减;LangChain实现了74%的成本削减,但准确率有6%的折损;CodeRabbit和Harvey则针对代码审查和法律工作定制了模型。截至本文撰写时,这四家均未公开发布与上述具体数字相符的自身版本。Harvey曾公开表示与AI初创公司Trajectory合作训练过早期的Nemotron模型(Super和Ultra),但未发现任何与Lightning相关的工作。
英伟达的主张与独立验证情况对比
合作方 | 英伟达的主张 | 是否独立验证
Artificial Analysis | 智能指数24,约670 tok/s | 是,独立测量
Ramp Labs | 58%成本削减,33%运行时间削减 | 方向得到确认;Ramp自身博文未给出百分比
Boomi | 100%路由准确率,59%流量转移 | Boomi未发布
Classmethod | 27%成本削减 | Classmethod未发布
LangChain | 74%成本削减,6%准确率折损 | LangChain未针对Lightning发布
CodeRabbit | 针对代码审查定制模型 | CodeRabbit未发布
Harvey | 针对法律工作定制模型 | Harvey确认过早期Nemotron模型,非Lightning
Lila Sciences | 改进科学任务推理能力 | 确认为采用方;同时也是NVentures投资的公司
六家验证方中有一家为投资对象
Lila Sciences在英伟达的发布中被提及改进了Lightning在科学任务中的推理能力。根据Lila自身的公告,其3.5亿美元A轮融资部分来自英伟达的风险投资部门NVentures。但英伟达的发布稿并未提及这层关系。
英伟达自身文档披露的信息多于发布公告
随Lightning一同发布的模型卡片显示,其基准得分“由英伟达在一致测试框架下测量”,且“可能与其他供应商自行报告的数值不同”。该卡片还描述了Lightning的架构为Mamba-2、混合专家模型和注意力层的混合体,比英伟达在社交媒体帖子中使用的“MoE模型”表述更为具体。此外,卡片披露,部分由其他AI系统(包括OpenAI的gpt-oss-120b)生成的合成训练数据带有政治和民族主义倾向,英伟达称已将其过滤;且在出现人口统计术语的子集中,训练数据偏向于男性和白人编码的指代。
英伟达此前曾因加密货币相关披露问题面临审查。一起联邦股东集体诉讼指控公司隐瞒了2017年至2018年间与加密货币挖矿相关的超过10亿美元GPU销售,该案已被允许继续审理并进入庭审阶段。此案与本次发布无关,但反映了英伟达在信息披露方面的一贯模式。
对Lightning及其声称的竞争对手进行全面的第三方对比,将能解决大部分悬而未决的问题。同样,若Boomi、Classmethod、CodeRabbit或Harvey确认各自被引用的具体数字,以及NeMo Switchyard(当前在GitHub上仍标注为0.1.0版本和alpha状态)能在英伟达所假定的生产规模下稳定运行,也能提供有力证据。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
索拉纳ETF
瑞波币ETF
香港ETF
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注