微軟AI晶片 找臺積助攻

微軟AI運算Athena處理器

微軟轉投資OpenAI開發的人工智慧(AI)聊天機器人ChatGPT熱度不減,引發國際大廠爭相佈局AI應用,微軟Azure雲端服務提供AI運算,過去主要以繪圖處理器(GPU)架構爲主,現決定投入自有AI晶片研發。據業界及外媒消息,微軟將採用臺積電5奈米制程及創意矽智財(IP)開發AI運算Athena處理器,以進一步降低AI市場佈局的龐大運算硬體建置成本。

隨AI應用在各產業遍地開花,繼亞馬遜AWS、Meta、Google等大廠陸續表態將開發客製化自有AI晶片後,微軟也決定跟進投入客製化自有AI晶片研發。事實上,微軟與臺積電及創意已有多年合作經驗,微軟遊戲機XBOX內建的多款客製化晶片都是交由臺積電生產,此次開發代號爲Athena的5奈米AI處理器也交由臺積電代工。

據外媒及業界消息,微軟此次開發代號爲Athena的AI處理器,會採用創意IP及委託設計(NRE)服務,並採用臺積電5奈米制程生產,最快明年上半年開始導入資料中心。微軟Athena處理器將應用在生成式AI技術運算,包括訓練大型語言模型(LLM)和AI推論(inference)等項目。

微軟目前提供的AI運算算力仍是基於GPU架構,多數是向輝達(NVIDIA)採購龐大的GPU,但隨着生成式AI市場興起,AI運算算力需求爆發性成長,龐大GPU採購及資料中心建置成本大幅提高,所以微軟希望自行研發的AI運算Athena處理器能提高效能,進一步降低開發AI所需耗費金錢成本和時間。

據研究資料顯示,每千萬名生成式AI每日活躍用戶(Daily Active User,DAU)所需求算力,約等同於2.4~3.0萬顆資料中心GPU,且隨着DAU數量的大幅跳升,現階段要立即處理用戶的每一個提問所需算力約等於4張GPU顯卡,每8張GPU顯卡算力能立即生成15~20個單字。微軟只要Athena處理器的AI運算算力超越GPU顯卡,AI晶片投資計劃就算成功。