長亭科技申請多個異構模型協同推理專利,提高整體推理性能和效率
金融界2025年1月28日消息,國家知識產權局信息顯示,北京長亭科技有限公司申請一項名爲“一種多個異構模型協同推理的方法及裝置”的專利,公開號CN 119358687 A,申請日期爲2024年12月。
專利摘要顯示,本發明公開了一種多個異構模型協同推理的方法及裝置,涉及人工智能推理預測技術領域,方法包括:接收客戶端提交的推理請求和提示詞;根據推理請求的上下文信息和預設條件,選擇多個匹配的異構模型同時進行Token預測;從全部異構模型的預測結果中選擇最佳的預測結果,將最佳的預測結果與提示詞拼接,若拼接結果未完成推理,則將拼接結果作爲新的提示詞提交至多個匹配的異構模型,繼續迭代推理直至推理完成。本發明提高了整體推理性能和效率,增強了模型在特定領域執行任務的能力。
天眼查資料顯示,北京長亭科技有限公司,成立於2014年,位於北京市,是一家以從事軟件和信息技術服務業爲主的企業。企業註冊資本34000萬人民幣,實繳資本1440.7883萬人民幣。通過天眼查大數據分析,北京長亭科技有限公司共對外投資了6家企業,參與招投標項目1473次,知識產權方面有商標信息9條,專利信息78條,此外企業還擁有行政許可4個。
本文源自:金融界
作者:情報員