英特尔拟发布中国特供版芯片Gaudi 3

发布者:深铭易购     发布时间:2024-04-15    浏览量:82

【深铭易购】资讯:近日,英特尔正式公布了新一代AI加速芯片Gaudi 3。在这之后,他们又准备推出专为中国市场打造的“特供版”Gaudi 3。这款特供版包括名为HL-328的OAM相容夹层卡和名为HL-388的PCle加速卡两种硬件形态。

据报道,英特尔在Gaudi 3白皮书中透露了上述信息。据悉,HL-328将于6月24日推出,而HL-388则将于9月24日推出。

就硬件规格而言,中国特供版的Gaudi 3与原版相比,具有相同的96MB SRAM片上存储和128GB HBM2e高带宽存储,带宽达到3.7TB/s。此外,它还具备PCIe 5.0 x16介面和解码标准。但是,由于美国对AI芯片的出口管制规定,这类高性能AI芯片的综合运算性能(TPP)需低于4800才能出口到中国。因此,中国特供版的Gaudi 3的16bit性能不得超过150 TFLOPS。

据英特尔公布的数据显示,Gaudi 3在FP16/BF16上可达到1835 TFLOPS,相较英伟达H100在大模型训练方面快40%,推理能效高50%。

显然,中国特供版的Gaudi 3需大幅降低AI性能,以符合出口规定。因此,该特供版需大幅减少内核数量(原版拥有8个矩阵数学引擎和64个张量内核)和工作频率。

注:图文源自网络,如有侵权问题请联系删除。