國網湖南省電力申請基於查詢變換器的多模態大模型預訓練專利，可靠性更高

金融界 2025 年 1 月 28 日消息，國家知識產權局信息顯示，國網湖南省電力有限公司申請一項名爲“基於查詢變換器的多模態大模型預訓練方法、系統及電力設備故障診斷方法”的專利，公開號 CN 119357661 A，申請日期爲 2024 年 9 月。

專利摘要顯示，本發明公開了一種基於查詢變換器的多模態大模型預訓練方法，包括獲取設定場景的圖片並生成圖片‑文本對數據集；將可學習查詢作爲位置信息並替換爲四維座標；對查詢變換器結構進行修正；對可學習查詢進行高維空間轉換並輸入查詢變換器中對多模態大模型進行第一階段訓練；將查詢變換器輸出結合文本信息並輸入到凍結大語言模型中完成對多模態大模型的第二階段訓練；完成第一和第二階段訓練後完成最終的基於查詢變換器的多模態大模型的預訓練。本發明還公開了一種實現所述基於查詢變換器的多模態大模型預訓練方法的系統，和包括了所述基於查詢變換器的多模態大模型預訓練方法的電力設備故障診斷方法。本發明可靠性更高，精確性更好，資源佔用更少。

天眼查資料顯示，國網湖南省電力有限公司，成立於1992年，位於長沙市，是一家以從事電力、熱力生產和供應業爲主的企業。企業註冊資本3433687.377259萬人民幣，實繳資本3433687.377259萬人民幣。通過天眼查大數據分析，國網湖南省電力有限公司共對外投資了62家企業，參與招投標項目3823次，專利信息5000條，此外企業還擁有行政許可241個。

本文源自：金融界

作者：情報員