谷歌Trillium AI芯片发布,性能提升近5倍

发布者:深铭易购     发布时间:2024-05-16    浏览量:--

【深铭易购】资讯北京时间5月15日凌晨,一年一度的Google I/O 2024开发者大会隆重举行,正式发布了第六代TPU芯片。与此同时,谷歌宣布Android系统即将进入Gemini时代。

谷歌母公司Alphabet在其人工智能(AI)数据中心芯片系列中推出了Trillium产品,据称该芯片的速度相比之前版本提升了近5倍。Alphabet致力于为AI数据中心打造定制芯片,这代表了挑战市场主导地位的英伟达顶级处理器的少数几个可行替代方案之一。谷歌与其张量处理单元(TPU)密切相关的软件使其在市场上拥有相当大的份额。

英伟达在人工智能数据中心芯片市场占据着约80%的份额,而剩下的20%则主要由谷歌的各种版本TPU占据。谷歌并不直接销售芯片,而是通过其云计算平台提供租赁服务。

谷歌表示,与TPU v5e相比,第六代Trillium芯片的计算性能将提高4.7倍,旨在支持从大型模型生成文本和其他媒体的技术。Trillium处理器的能效比TPU v5e提高了67%。

此外,Trillium配备了第三代SparseCore,这是用于处理超大嵌体的专用加速器,用于处理进阶排名和推荐工作负载。

Trillium可在单个高带宽、低延迟的Pod中扩展多达256个TPU。除了Pod级别的可扩展性外,借助多切片技术和Titanium智能处理单元,Trillium还能扩展到数百个Pod。

Trillium将帮助谷歌更快地训练下一代基础模型,以更短的延迟时间和更低的成本提供模型服务。谷歌公司表示,新芯片将于2024年末向云客户提供。

注:图文源自网络,如有侵权问题请联系删除。