《外資》Nvidia GH/GB200超級晶片創造新機遇 首選4強將

外資分析,首波生成式AI伺服器基於Nivida HGX平臺採用A100/H100 GPU,而GH200/GB200超級晶片則是基於Nivida宣佈的GH200 NVL32伺服器機架規模解決方案的伺服器機架設計。基於GH200 NVL32機架規模伺服器解決方案,Nvidia採用了MGX平臺與GH200超級晶片取代了HGX平臺與A100/H100 GPU,並將熱解決方案從風冷升級爲液冷。

首波生成式AI伺服器機架的設計特點,是四個伺服器與HGX主機板(每機架3個GPU)使用風冷;Nvidia GH200 NVL32,基於Nvidia DGX Cloud內的機架規模解決方案,包含32個GPU,其中有八個雙GH200計算托盤、九個NVLink切換托盤和八個雙GH200計算托盤使用液冷。Nvidia尚未宣佈GB200機架解決方案,但預期機架規模解決方案將與GH200相似,其基於MGX機箱和液冷。

NVIDIA DGX GH200擁有巨大的共享記憶體空間。它使用NVLink互連技術及NVLink Switch System來連接256個GH200 Grace Hopper超級晶片,讓所有超級晶片以單一GPU之姿態來執行各項作業。這提供了1 exaflop的效能和144 TB的共享記憶體,與前一代NVIDIA DGX A100系統的記憶體容量增加了近500倍。

由於AI伺服器機架設計發生了重大變化,GH200/GB200伺服器機架的機架級設計能力的重要性將增加。外資預期具有機架級設計能力的公司,如廣達、緯創集團、鴻海和英業達將受益。

雖然外資在「買進」評等中未納入英業達,但認爲英業達有能力支援GB200平臺,英業達在2019年投資ZT Group,英業達的投資深化伺服器的市佔,搶進亞馬遜、臉書和微軟供應鏈(3家公司取英文字首簡寫爲A.F.M),同時也分散生產基地。ZT Group是一家美國生產電腦運算及儲存解決方案的公司,該公司提供的產品,包括伺服器系統及高速儲存解決方案等,主要供應給大型資料中心,用來做大數據的分析,並出貨整合型的機櫃、交換器與電源管理方案等,ZT也設計資料中心與特殊應用。