LOADING

谷歌开始外售整套TPU系统,第八代拆成四种配置

AI资讯

今年谷歌开始向部分客户交付整套TPU系统,而不只在Google Cloud上出租算力。第八代TPU已拆成训练、实时推理、机密计算和超长上下文四种配置,是谷歌首次在同一年推出四款TPU系统。Alphabet在10-Q中把“产品销售,主要为TPU系统”列入Google Cloud收入,并称这是第三季度云业务增长的重要贡献之一。

从云上租赁到整柜交付

TPU始于2013年,最初是谷歌为降低自家AI算力成本做的专用芯片。2018年起在Google Cloud上对外出租,机房仍由谷歌运营。今年第一季度财报会上,CEO桑达尔·皮查伊说,AI实验室、资本市场公司和高性能计算客户对TPU需求强劲,并宣布面向部分精选客户,支持把TPU部署到客户自己的数据中心。第二季度开始交付完整系统,包含计算、存储、网络硬件和软件,以及训练、推理相关服务。

据接近谷歌的人士说,这项外售是在内部争论后定下的,推动者是一位加入谷歌不到三年的高管,方向是“像英伟达一样”把系统卖给外部客户。报道把动机概括为用外部订单分摊数据中心资本开支。皮查伊在第二季度财报会上仍表示,谷歌自己做前沿AGI的算力需求是一条不能让的线。高端GPU紧缺,买不到英伟达的客户是这扇窗口的另一边。英伟达算力开支变贵的讨论见下一轮算力融资更难。

Google Cloud收入今年逐季加快:第一季度同比增长63%,第二季度增长82%,第三季度达到307亿美元,同比增长103%。报道称第三季度经营利润由35.94亿美元升至111.21亿美元。管理层预计TPU系统销售在第四季度继续扩大。大部分相关合同收入要到2027年才计入报表。

四种配置,以及TorchTPU

2025年的第七代Ironwood面向推理。今年的第八代把训练、实时推理、机密计算和超长上下文拆开。本周新发布的两款,分别针对机密推理和长上下文,加上上半年的两款,第八代共四种配置。谷歌芯片业务负责人Amin Vahdat对外说“未来属于专业化”。

软件是另一块。TPU长期绑定TensorFlow和JAX,和围绕CUDA的PyTorch路径差得很远。2025年年中,谷歌开始和Meta的PyTorch团队合作做TorchTPU,目标是少量改代码就能在TPU上跑PyTorch模型。2026年10月底,这项成果开源。

每美元token还在来回

11月5日,SemiAnalysis公布一组Agent推理测试。在Muse Spark等模型的部分测试里,第七代Ironwood的每美元token产出高于英伟达GPU。谷歌提交的AgentX结果显示,TPUv7在每美元性能上超过GB300 NVL72的FP4。英伟达随后做了四轮优化。在某一个模型的测试上,GB300的每美元token产出反超TPU,幅度为1.5倍到2.6倍。这是单一测试来回,不是整条产品线的定论。

常见问题

Q:谷歌是把TPU卖给客户,还是只在云上出租? A:2018年起主要是Google Cloud出租。今年第一季度宣布支持部分客户在自有数据中心部署,第二季度开始交付包含计算、存储、网络和软件的整套系统。

Q:第八代TPU有几种配置? A:四种,分别面向训练、实时推理、机密计算和超长上下文。本周新发的两款针对机密推理和长上下文。

Q:SemiAnalysis说TPU比GB300更划算吗? A:谷歌提交的AgentX结果曾显示TPUv7每美元性能超过GB300 NVL72 FP4。英伟达四轮优化后,在某一个模型上GB300的每美元token产出反超1.5倍到2.6倍。

© 版权声明

相关文章