ASIC百家爭鳴 GPU仍爲現階段主流
法人透露,今年將爲創意AI晶片進入規模量產階段,營運貢獻度將逐步提升。圖/美聯社
亞馬遜、微軟、google、Meta四大雲端服務商(CSP)大廠積極投入自研晶片,爲半導體業帶來龐大新商機。法人指出,在功耗要求以及針對不同場景開發客製化晶片下,臺廠相關公司如創意、世芯-KY、智原都將受惠。
四大CSP業者積極尋求與ASIC設計服務業者合作,半導體業者指出,亞馬遜推出Trn1及Trn2分別採用7奈米及5奈米制程,分別下單給世芯-KY及Marvell,google TPU採5奈米設計與博通關係良好,微軟Maia採5奈米晶片則委由臺積電代工並搭配GPU架構,Meta MTIA則採7奈米制程,委由博通設計。
半導體業者指出,爲求降低整體成本,配合自身生態軟體跟應用,各家雲端大廠積極開發ASIC,且因自研晶片需攤提開發成本,具有龐大用戶基礎才足以達到規模效益;目前能開案AI ASIC之廠商,僅着重在各大CSP業者。
以Google TPU例,與博通(Broadcom)合作開發,專門針對Google的開源深度學習框架TensorFlow最佳化的晶片,在此框架下能發揮最高之運作效率,不過在其他學習框架的表現則不佳,通用型GPU仍爲現階段主流方案。
微軟於2023年11月發佈兩款晶片,分別爲CPU及AI加速器之Cobalt 100、Maia 100;其中Maia 100採用臺積電5奈米制程。據法人調研指出,該款晶片於FLOPS(浮點運算次數)以及I/O上,處於領先地位,但該晶片不對外販售,僅做爲微軟ASIC內部人工智慧運算。不過Maia因爲記憶體頻寬限制,在推理效能僅爲H100的三分之一,考量延遲問題,Maia於延遲敏感度高之應用,如自駕車,仍無法與晶片巨頭輝達或AMD GPU匹敵。
自研晶片雖然在應用上,不若晶片廠通用型GPU廣泛,然而ASIC卻在成本上坐擁優勢。法人表示,以價格而言,Google雲端A100 80GB價格爲每小時3.93美元,TPU v4價格僅需3.22美元,減少約2成左右;在特定應用效能也不輸GPU的情況下,CSP業者採取自主研發,降低運營成本。