中科曙光胡曉東：AI基礎設施發展趨勢指向低能耗計算 將關注開發環境遷移需求｜直擊WAIC 2024

《科創板日報》7月6日訊（記者 郭輝）2024世界人工智能大會（WAIC 2024）期間，AI大模型、算力基礎設施、先進產業應用等多方共襄盛舉。到今年爲止，WAIC已經成功舉辦六屆，大會的規格和內容豐富性不斷提升，並且最近兩年AIGC技術實現突破，WAIC也成爲產業變化突出展示的窗口。

“AI持續火爆，今年（WAIC）跟去年相比，明顯感受到AI進入到了多元化的應用階段”。中科曙光智能計算產品事業部副總經理胡曉東在WAIC舉行期間，接受了《科創板日報》記者的專訪。胡曉東表示，之前AI的To B端應用距離個人生活很遠，現在各大廠商參與進來，AI活躍並深入到了社會生活的方方面面，比如基礎教育、機器智能的發展等。

據胡曉東介紹，在本屆WAIC，中科曙光展臺的展出亮點包括從硬件到軟件的整體解決方案，比如硬件服務器及整機等各種產品，涵蓋了從端側到中心側、再到雲側的不同應用體系，同時中科曙光今年也帶來了豐富的軟件產品。

在胡曉東看來，AI應用爆發的一個顯著特徵是，AI大模型數量增多、模型參數量增長，因此對底層的硬件基礎設施需求量增長。英偉達CEO黃仁勳曾經說過，AI的盡頭是光伏和儲能，其意即當下應關注低能耗算力的發展和建設。

胡曉東也表示，AI基礎設施技術發展，首先要解決的就是低能耗計算的發展要求。

“這次的WAIC上，中科曙光帶來液冷工作站、液冷基礎服務器、液冷整機櫃和整套液冷數據中心方案，能夠通過對新型液冷技術的引入，提升AI等數字技術的整體能源利用效率，並發展新型的綠色算力基礎設施，在有限能源範圍之內，更好提供算力、更好服務上層不同的應用平臺。”胡曉東如是稱。

在硬件設施之外，計算中心的軟件生態也是助力大模型應用發展的重要環節。“現在很多AI開發者都在切換國產化開發環境，很多人關心遷移成本的問題，關心能否短時間內對不同國產卡進行遷移，以及在業務系統遷移完成後，是否能夠建立穩定、高效、持續的運營。”

據胡曉東介紹，中科曙光在平臺層，也在嘗試爲開發者解決此類後顧之憂，實現對不同品牌的算力卡和資源池進行統一納管，從底層硬件、基礎軟件棧，到開發中臺、信息化工具，提供整套軟件解決方案。

胡曉東認爲，從去年國產大模型廠商衝擊基礎模型的參數量，到今年，各家大模型已經到了在各個垂直領域深化發展的階段，“這對底層的軟硬件都提出了更高的需求，對中科曙光而言，需要提供更多上層服務”。

“曙光在傳統硬件業務之外，也在針對軟件開發和模型應用提供不同工具套件和開發支持”。胡曉東表示，曙光正在與企業客戶一同合作，整合國產算力平臺、基礎硬件模型、行業數據，幫助大模型在不同行業實現向深化應用和順利落地的跨越。