鴻海助陣「地表最強AI晶片」 躍居大贏家
輝達(NVIDIA)美國時間18日於GTC大會推出「GB200」新架構AI伺服器整套解決方案,串聯CPU與GPU,打造「地表最強AI晶片」,翻轉傳統AI伺服器架構,鴻海(2317)不僅是主力代工廠,而且獨家供應高速GPU互連技術(NVLINK),堪稱大贏家。
業界分析,NVLINK是一種晶片與晶片之間的連接技術,進入AI時代變得非常重要,因爲AI着重大語言模型訓練,要使用上千顆晶片,並且串連在一起做語言訓練,才能發揮最大效能,只有輝達的NVLINK技術,才能夠把所有晶片串在一起。
過去AI伺服器架構只能串連四顆晶片,而且串在一起的四顆晶片,無法與其他四顆晶片互相連在一起,但是NVLINK可以串起千顆晶片一同發揮戰力,可以看出,鴻海在GB200晶片互連技術的關鍵地位。
另外,輝達的GB200,未來是要賣整套AI解決方案,不是單賣伺服器,要會設計GB200整套方案,目前只有鴻海與廣達兩大伺服器廠。而鴻海又具備從零組件、晶片模組、整機到資料中心的垂直整合能力,能配合客戶進行開發,其整櫃解決方案輸出的技術力,成爲鴻海在AI伺服器產業的重要優勢。
鴻海旗下鴻佰此次也參與GTC大會,展示最新AI數據中心液冷解決方案「GB200 NVL72」,搭載72個高性能輝達Blackwell GPU和36個Grace CPU,透過第五代NVLINK,串連成單一大規模GPU,大幅加快大型語言模型的推論速度。
鴻佰總經理丁肇邦表示,利用輝達MGX平臺,我們能夠採用模組化設計,用符合成本效益方式打造多種伺服器配置,幫助客戶建構各種應用的人工智慧數據中心。