GPU狂潮:內存巨頭爭奪HBM3e

HBM3e受追捧,英偉達GPU訂單爆滿。

人工智能浪潮繼續推動對人工智能芯片的需求激增。繼 HBM 售罄和製造商加大產量以滿足需求的報道之後,最近有消息稱英偉達的 Blackwell 架構 GPU 也供不應求。

英偉達的 Blackwell GPU 未來 12 個月內已售罄

Blackwell GPU 採用定製的雙光罩極限 4NP TSMC 工藝製造,GPU 芯片通過 10TBps 芯片到芯片鏈路連接到單個統一的 GPU,擁有 2080 億個晶體管。這比 Hopper 系列的 800 億個有所增加,幷包括第二代變壓器引擎和新的 4 位浮點 AI 推理功能。

儘管英偉達的 Blackwell 架構 GPU 推遲到今年第四季度上市,但這並沒有影響訂單。

據Tom's Hardware報道,摩根士丹利最近在紐約與英偉達首席執行官黃仁勳、首席財務官 Colette Kress 以及該芯片製造商管理團隊的其他成員舉行了爲期三天的會議。

摩根士丹利報道稱,英偉達表示,未來12個月的Blackwell架構GPU訂單已全部售罄,現在下訂單的新客戶要到2025年底才能收到產品。

本月初,微軟成爲首家部署英偉達 GB200 AI 服務器的雲服務商,該公司在 X(原 Twitter)上發佈消息稱:"Microsoft Azure 是首家運行 英偉達 Blackwell 系統並搭載 GB200 AI 服務器的雲服務商。我們正在每一層進行優化,以支持世界上最先進的 AI 模型,並利用 Infiniband 網絡和創新的閉環液體冷卻。"

現有客戶包括 AWS、CoreWeave、谷歌、Meta、微軟和甲骨文,已經購買了英偉達及其合作伙伴臺積電在未來幾個季度內可以生產的所有 Blackwell 架構 GPU。

業界指出,高性能GPU及其背後的AI芯片市場需求依然旺盛,英偉達、AMD、Intel等各大AI芯片廠商之間的競爭將愈加激烈。

摩根士丹利分析師約瑟夫·摩爾 (Joseph Moore) 在給客戶的報告中寫道:"我們仍然認爲,英偉達很可能在 2025 年真正獲得 AI 處理器的份額,因爲定製硅片的最大用戶明年將看到英偉達解決方案的迅猛增長。"

現在英偉達的B100和B200 GPU的封裝問題已經解決,英偉達可以生產與臺積電一樣多的 Blackwell GPU。B100 和 B200 都採用臺積電的 CoWoS-L 封裝,而這家全球最大的芯片代工廠是否有足夠的 CoWoS-L 產能還有待觀察。

此外,隨着對 AI GPU 的需求猛增,內存製造商能否爲 Blackwell 等尖端 GPU 提供足夠的 HBM3e 內存仍有待觀察。

三大內存巨頭搶佔HBM3e先機,12款新品凸顯重要性

受高性能AI芯片的不斷迭代和單系統HBM容量擴大的驅動,HBM bit需求持續增長。

根據TrendForce預估,2024年HBM需求比特數年增率將接近200%,2025年將再度翻倍。

TrendForce表示,受惠於AI平臺積極採用新一代HBM產品的帶動,2025年HBM需求bit將有八成以上爲HBM3e代產品,其中12-hi將佔比過半,成爲明年下半年各大AI廠商競相爭奪的主流產品,其次爲8-hi。

三星、SK海力士、美光分別於2024年上半年、第三季度提交首批HBM3e 12-hi樣品,目前處於持續驗證階段。其中SK海力士、美光進展較快,預計今年年底完成驗證。

同時,隨着英偉達、AMD主流GPU產品的迭代,以及HBM規格的變化,市場也將逐步從HBM3升級到HBM3e,三大內存廠商(三星、SK海力士、美光)將積極搶佔HBM3e機會。

7月,三星宣佈其研HBM3E內存技術通過了英偉達的嚴格測試,預示着這家韓國科技巨頭即將重新在高端內存市場佔據一席之地。爲實現這一目標,三星多次調整戰略,優化4nm製程工藝,目前HBM3e的良品率已超過70%,顯示出強大的技術實力。

HBM3e 內存的關鍵特性在於其高密度存儲和低能耗設計,這使得它在圖形處理和數據中心應用中表現出色。英偉達選擇三星作爲供應商,反映了對其在高性能計算領域能力的認可。據報道,三星計劃從其DRAM產能中調撥約30%用於生產HBM3e,這可能導致全球DRAM供應量減少13%,從而推高市場價格。

對於消費者而言,這意味着未來搭載HBM3e內存的遊戲設備和服務器將具備更快的數據交換速度和更持久的性能表現。在遊戲體驗上,玩家可以期待流暢無阻的圖形渲染和無縫切換,而企業用戶則能在大數據處理和雲計算任務中獲得顯著提升。

三星此次成功獲取英偉達的大單,無疑對競爭對手如美光和SK海力士構成了壓力,他們可能需要加快研發進程以應對市場變化。同時,消費者在購買決策時可能會更加傾向於選擇具備HBM3e內存的產品,這將推動整個智能設備市場向着更高的性能和效率邁進。

*聲明:本文系原作者創作。文章內容系其個人觀點,我方轉載僅爲分享與討論,不代表我方贊成或認同,如有異議,請聯繫後臺。