Intel最強AI加速器可以賣給中國!但揮刀砍掉一半
Intel日前發佈了新一代AI加速器Gaudi 3,本來美國政府是不會允許賣給中國的,但是沒想到Intel已經同步準備好了中國特供版本!
Gaudi 3採用臺積電5nm工藝,配備了8個矩陣引擎、64個張量核心、96MB SRAM緩存、1024-bit 128GB HBM2E內存(帶寬3.7TB/s),還有16個PCIe 5.0通道、24個2000GbE網絡、JPEG/VP9/H.264/H.265解碼器,提供OAM兼容夾層卡、通用基板、PCIe擴展卡三種形態。
Intel聲稱,它相比上代擁有2倍的FP8 AI算力、4倍的BF16 AI算力、2倍的網絡功耗爲600W帶寬、1.5倍的內存帶寬,而對比NVIDIA H100 LLM推理性能領先50%、訓練時間快40%。
Gaudi 3的首發版本編號HL-325L,OAM形態,已經出貨,功耗900W,風冷散熱。
它的中國特供版將在6月份推出,編號HL-328,功耗減半至450W,HMB內存、緩存、解碼器等完全保留,但既然功耗少了一半,算力差不多也會被腰斬。
10月份還會有個液冷版本HL-335,支持雙路並聯,但不能賣給中國,也沒有特供版。
PCIe擴展卡形態將在9月份出貨,風冷,滿血版編號HL-338,,中國特供版編號HL-388,功耗又被限制在450W。
通用基板形態的編號爲HLB-325,但具體規格和出貨時間暫時不詳。
說起來,NVIDIA是最早做中國特供版AI加速器的,也就是H800、A800,後來也被禁售了,最近又拿出了H20、L20、L2、RTX 4090D,都能賣。
AMD也設計了特供版Instinct MI309、MI388X,但都被美政府以算力還是太強爲由給打回,而年底將要升級到MI350。