TLDR
目录
英伟达全新AI服务器为混合专家模型带来10倍性能提升,包括月之暗面的Kimi K2思维模型
服务器单机集成72个高性能芯片,配备高速互联技术
该产品瞄准推理市场,英伟达在此面临AMD和Cerebras的激烈竞争
混合专家方法因DeepSeek在2025年初发布高效模型而广受欢迎
AMD正在开发类似的多芯片服务器,计划于2026年发布
混合专家革命
混合专家模型与传统AI的工作方式不同。它们将任务分解成多个部分,并分配给系统内的专用“专家”处理。
这种方法的兴起始于2025年初DeepSeek开源模型的发布。该模型训练速度更快,成本也更低。
OpenAI在ChatGPT中采用了这项技术。法国的Mistral紧随其后。月之暗面也在7月推出了自己的版本。
这些模型在昂贵芯片上的训练需求较少。但英伟达认为,部署这些模型仍然需要强大的硬件支持。
新服务器内部构造
英伟达将72个顶级芯片集成到一台机器中,并通过高速连接将这些芯片互联。
公司表示,这种配置为月之暗面的Kimi K2模型带来了10倍的性能提升。上一代服务器无法达到这样的性能水平。
性能提升来自两个方面:首先是在每个机箱中塞入更多芯片;其次是芯片间通信速度的提升。
这些领域目前仍是英伟达领先竞争对手的优势所在。
AMD准备应战
AMD并未坐以待毙。该公司正在打造自己的多芯片服务器系统,预计明年上市。该系统将集成多个强大处理器,与英伟达的战略如出一辙。
竞争压力真实存在。虽然英伟达主导着AI训练市场,但推理市场却是不同的战场。
推理意味着将训练好的模型提供给终端用户使用。多家公司都可以在这个领域展开竞争。
英伟达发布这些数据是为了证明一个观点:即使是高效的模型,部署时仍然需要强大的硬件支持。
性能基准细节
基准测试重点关注目前实际部署中的现实模型。月之暗面的系统代表了新一代高效AI架构。
这些模型训练速度更快,开发成本更低。但根据英伟达的数据,部署这些模型仍然需要顶级服务器支持。
10倍的性能提升专门针对推理工作负载,即通过训练好的模型大规模运行查询的过程。
英伟达在周三发布的数据显示了混合专家模型性能的具体指标。公司测试的模型不仅包括月之暗面和DeepSeek,还涵盖多个其他模型。
服务器结合了原始芯片数量和连接速度。这两个因素共同促成了英伟达宣称的性能提升。
AMD明年推出的竞争产品将检验英伟达能否在芯片密度和互联速度方面保持优势。


交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
新闻
文章
大V快讯
财经日历
专题
ETF追踪
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
索拉纳ETF
大额转账
链上异动
比特币回报率
稳定币市值
合约计算器
期权分析
账号安全
资讯收藏
自选币种
我的关注