谷歌的下一代TPU承诺提升4.7倍性能

在其Google I/O开发者大会上,谷歌周二宣布了其数据中心AI芯片Tensor Processing Units(TPU)的下一代,即第六代芯片Trillium,将于今年晚些时候推出。

在会议之前的新闻发布会上,谷歌CEO桑达尔·皮查伊表示:“谷歌一直在为这一刻进行开拓。我们已经在GPU方面探索了十多年。”

尽管这些芯片直到年底才推出,但在I/O上宣布下一代TPUs已成为一种传统。皮查伊表示,与第五代相比,到货时,它们每芯片的计算性能将提高4.7倍。

部分原因是,谷歌通过扩展芯片的矩阵相乘单元(MXUs)并提高整体时钟速度来实现这一点。此外,谷歌还将Trillium芯片的内存带宽提升了一倍。

然而,也许更重要的是,Trillium具有第三代SparseCore,谷歌将其描述为“用于处理高级排序和推荐工作负载中的超大嵌入的专用加速器”。公司表示,这将使Trillium TPU能够更快地训练模型并以更低的延迟为其提供服务。

皮查伊还将新芯片描述为谷歌“最节能”的TPUs,这在AI芯片需求不断增长的情况下尤为重要。“过去六年中,机器学习计算的需求增长了100万倍,每年增长约十倍,”他说。如果不投资于降低这些芯片的功耗,这是不可持续的。谷歌承诺,新TPUs比第五代芯片节能67%。

谷歌的TPUs最近倾向于推出多种变体。到目前为止,谷歌尚未提供有关新芯片的任何额外细节,或者在谷歌云中使用它们将花费多少。

今年早些时候,谷歌还宣布将是首批提供Nvidia下一代Blackwell处理器访问权限的云服务提供商之一。然而,这仍意味着开发者将不得不等到2025年初才能获得这些芯片的访问权限。

“我们将继续投资于为AI进步提供动力的基础设施,我们将继续开拓新的领域,”皮查伊说。

我们即将推出人工智能通讯!点击此处注册,从6月5日开始接收到您的收件箱。