華為攻AI 另闢蹊徑 自研昇騰晶片瞄準「推論」應用
華爲升騰910B晶片被認爲足以與輝達媲美。(網路照片)
在輝達(NVIDIA)受到美國管制,晶片無法向大陸銷售之際,華爲正透過自研的升騰(Ascend)晶片,完成人工智慧(AI)中的「推論」(Inference)任務,並推薦給其他陸企採用,藉此在AI晶片市場中搶佔更多市佔率。
生成式AI的學習通常可分爲訓練與推論兩個階段。推論是指大型語言模型(LLM)在生成迴應時所進行的計算。
華爲預測,隨着AI訓練階段的飽和,以及未來聊天機器人等AI應用程序變得更加普及,市場對AI「推論」的應用將有更大需求。
華爲擴大自研AI晶片市佔概況
中華經濟研究院第二研究所國際鏈結組副組長江泰槿指出,面對美國愈來愈嚴格的科技管制,大陸正採取多管齊下的突破策略。大陸政府本身推出研發費用加倍扣抵、高科技企業租稅優惠等政策,積極扶植本土企業創新。
在運算能力方面,江泰槿表示,大陸透過分散式運算和演算法優化,整合中低階晶片運算力,開發專用AI加速器。其次,加速產業鏈在地化,從晶片設計到封裝測試全面佈局。最後,探索替代性技術路線,透過改進演算法效率和優化模型架構,降低對高階硬體的依賴。
英國金融時報(FT)報導,大陸主要AI企業都仰賴輝達的繪圖處理器(GPU)訓練大型語言模型,但華爲不想挑戰輝達晶片在訓練領域的地位,而是把最新的升騰AI晶片,定位爲大陸企業在執行「推論」工作時的硬體選擇,押注若模型訓練腳步放慢以及聊天機器人等AI應用更廣獲採用,推論的需求將升高。
報導引述華爲的員工和升騰的客戶指出,華爲聚焦於技術挑戰較低,但也有利可圖的路徑,也就是翻新以輝達晶片訓練的AI模型,用升騰晶片運行。
由於輝達和升騰的軟體系統不同,華爲正幫助企業使用另一套軟體工具,讓兩個系統相容。
華爲蘇黎世研究室研究推論加速的資深AI研究員薩查洛波洛斯(Georgios Zacharopoulos)表示,訓練很重要,但只會進行幾次,華爲主要聚焦於最終將服務更多客戶的推論。
大陸已要求當地科技巨頭採購更多華爲的AI晶片,降低對輝達的依賴。
報導引述一名熟悉輝達大陸營運的消息人士的話指出,華爲被輝達內部視爲在大陸的最重大競爭對手,華爲的晶片設計能力「非常先進」。
美國已針對管制出口管制AI晶片的對大陸出口,希望阻礙大陸在敏感科技的進展,因此大陸企業無法取得最先進的GPU,而是隻能獲得效能較低的輝達H20晶片,但因爲仍比當地其他選擇更好,因此需求依然熱門。
據半導體研究與顧問公司SemiAnalysis估算,輝達去年在大陸出貨100萬組H20晶片,銷售額120億美元,銷量爲升騰910B的兩倍。