百度申請針對算力集羣的通信方法專利,提升生成式大語言模型訓練效率

金融界2025年1月16日消息,國家知識產權局信息顯示,北京百度網訊科技有限公司申請一項名爲“針對算力集羣的通信方法、裝置、電子設備及存儲介質”的專利,公開號CN 119299057 A,申請日期爲2024年12月。

專利摘要顯示,本公開提供了一種針對算力集羣的通信方法、裝置、電子設備及存儲介質,涉及圖形處理器、算力集羣、模型訓練、生成式大語言模型等技術領域。該方法包括:在採用RDMA協議與通信接收端進行通信的過程中,獲取與RDMA協議對應的第一丟包率;響應於第一丟包率高於第一預設丟包率,向通信接收端發起切換爲TCP進行通信的第一握手請求;接收通信接收端針對第一握手請求返回的第一握手響應,並根據第一握手響應中的最後數據接收位置確定數據的第一起始傳輸位置;採用TCP從與第一起始傳輸位置對應的數據開始與通信接收端進行通信。應用該方法可提升整體通信效率和數據傳輸量,進而提升生成式大語言模型的訓練效率以及縮短訓練所需耗時。

天眼查資料顯示,北京百度網訊科技有限公司,成立於2001年,位於北京市,是一家以從事互聯網和相關服務爲主的企業。企業註冊資本1342128萬人民幣,實繳資本1342128萬人民幣。通過天眼查大數據分析,北京百度網訊科技有限公司共對外投資了74家企業,參與招投標項目2802次,知識產權方面有商標信息973條,專利信息5000條,此外企業還擁有行政許可46個。

本文源自:金融界

作者:情報員