主要亮点
推理能力迎来显著提升
早期采用者与行业影响
获取3本免费股票电子书
Alphabet推出了其第八代张量处理器:针对训练优化的TPU 8t和针对推理工作负载的TPU 8i。
专注于推理的TPU 8i,其单位美元性能比前代产品Ironwood提升了80%。
这两款处理器均是与博通公司合作开发,并与谷歌DeepMind共同设计。
TPU 8t训练处理器的超级荚配置可扩展至9,600个芯片,并提供比Ironwood高一倍的芯片间带宽。
谷歌云客户将于2025年晚些时候获得这两款芯片的使用权限。
Alphabet旗下的谷歌部门于周三推出了两款专用人工智能处理器,这标志着其张量处理器架构首次被分离成用于训练和推理操作的不同芯片。
TPU 8t专为AI模型训练设计,而其对应产品TPU 8i则专门专注于推理——即在现实应用中部署已训练模型的过程。博通公司是共同开发合作伙伴,双方的合作关系已延续超过十年。
这代表了与以往方法的一次战略转变。早期的TPU迭代版本将训练和推理功能整合在单一处理器内。
谷歌将此变化归因于智能体AI系统的兴起——这些自主模型在持续反馈循环中运行,只需极少人工监督——这需要更具针对性的定制芯片。
专注于推理的TPU 8i每处理器拥有384兆字节的SRAM,容量是Ironwood的三倍。据谷歌称,这种架构增强消除了“等待室”瓶颈,减少了多用户同时查询模型时出现的延迟高峰。
推理能力迎来显著提升
与Ironwood相比,TPU 8i实现了80%的成本效益提升。从运营角度来看,组织可以在不增加预算的情况下,满足近两倍的用户需求。
该芯片还能实现高达2倍的每瓦能效提升,这得益于可根据实时工作负载需求调节能耗的动态电源管理技术。
两款处理器首次均采用谷歌的Axion CPU作为主机处理器,从而实现了系统架构层面的优化,而不仅仅局限于单个芯片性能的提升。
在训练能力方面,TPU 8t超级荚配置支持多达9,600个处理器的集群,并配备2拍字节的高带宽内存。这相当于Ironwood芯片间通信带宽的两倍,谷歌声称其可以将前沿模型的开发时间从数月压缩至仅数周。
在同等价格点上,该训练处理器提供的计算性能是第七代Ironwood架构的2.8倍。
早期采用者与行业影响
早期采用势头正在增强。Citadel Securities使用谷歌的TPU基础设施开发了量化研究平台。美国能源部所有十七个国家实验室都在这些处理器上运行AI协科学家应用。
Anthropic已承诺使用数十亿瓦特的谷歌TPU计算容量。
DA Davidson的分析师在9月份预测,谷歌的TPU部门与谷歌DeepMind结合后,其估值可能接近9,000亿美元。
谷歌对TPU采用独家分销模式——它们不直接出售,只能通过谷歌云服务获取。英伟达将继续向谷歌供应GPU硬件,该公司确认将成为首批提供英伟达即将推出的Vera Rubin平台的云服务提供商之一,该平台将于今年晚些时候发布。
这些处理器是与谷歌DeepMind紧密协作设计的,DeepMind已将其用于训练Gemini语言模型以及优化驱动搜索和YouTube平台的算法。
谷歌宣布,TPU 8t和TPU 8i都将于2025年晚些时候在云平台客户中全面上市。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
索拉纳ETF
瑞波币ETF
香港ETF
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注