騰訊雲升級AI全家桶，混元對標GPT-4o

AI新浪潮觀察

6min read

騰訊雲升級AI全家桶，混元對標GPT-4o

連然2024/09/05

摘要

內卷突圍三方向：「以數提效、順勢而爲、揚帆出海。」

9月5日，2024騰訊全球數字生態大會在深圳國際會展中心舉行。

在大會上，騰訊集團高級執行副總裁、雲與智慧產業事業羣CEO湯道生披露了騰訊雲過去一年的成績：與夥伴共同服務的客戶數超過200萬家，百萬級訂單的合作伙伴數量實現兩位數增長，衆多SaaS夥伴收入翻倍，國際業務增速也保持在兩位數以上。

此外，在AI方面，騰訊雲這次也公佈了一系列進展。首先是發佈了新一代大模型“混元Turbo”，相較前代，混元Turbo性能大幅提升：訓練效率提高108%，推理效率提升100%，推理成本降低50%，目前，混元Turbo已在騰訊雲上線，提供多個版本供企業和開發者使用。

同時，在大會上，騰訊雲還發布了AI infra品牌“騰訊雲智算”，一個集計算、存儲、網絡爲一體的高性能智能計算平臺，提供了領先的AI計算能力；並推出了RAG解決方案，支持企業用多種技術“量身定製”AI大模型應用，進一步拓展了AI應用的靈活性和適用範圍。

而面對國內企業所面臨的更普遍的“內卷式競爭”的困境，湯道生在會上還提出了「破局增長」的三個方向：以數提效、順勢而爲、揚帆出海，建議企業應聚焦核心場景提升效率、抓住新產業機會、開拓全球市場，探索產業新的發展機遇。

對標GPT-4o，騰訊混元再升級

在這次大會上，騰訊發佈了新一代大模型“混元Turbo”，相較前代，混元Turbo性能大幅提升：訓練效率提高108%，推理效率提升100%，推理成本降低50%。效果在多個基準測試上對標GPT-4o，且第三方測評居國內第一。

目前，混元Turbo已在騰訊雲上線，提供Turbo、Pro、Standard、Lite等多個版本，企業和開發者可以直接在雲上接入使用，輸入和輸出價格僅爲前代模型的一半。混元Turbo還開放了代碼生成、角色扮演、Functioncall等功能，企業可通過騰訊雲TI平臺對模型進行精細調整，實現定製化應用。

湯道生表示，隨着大模型與生成式AI的技術突破，圖片、視頻、語言的理解與生成已經有很大進步，人與人的溝通、人與系統的交互方式，都可能會被重塑。最近半年，產業界的關注點也從模型技術的本身轉向了智能應用的落地。

據瞭解，騰訊已經構建起了全鏈路的大模型產品矩陣，包括基礎設施、專屬模型訓練平臺TI、行業大模型解決方案、自研混元大模型，以及一系列基於大模型的智能應用。

會上，騰訊AI應用“元寶”品牌智能體專區正式上線，首批邀請11家合作伙伴入駐，涵蓋工作提效和生活娛樂等多個場景，用戶可在“騰訊元寶”APP上直接進行體驗。

“面向場景創造價值纔是大模型發展的意義。”騰訊雲副總裁、騰訊雲智能負責人、優圖實驗室負責人吳運聲表示，大模型已經在全球發展了兩年，一方面，模型性能不斷提升，圍繞着模型的產品使用門檻變得更低、更加易用；另一方面，企業積極探索大模型與自身業務場景的結合，大模型的落地場景變得更豐富、更縱深。

目前，騰訊已經有700多款產品接入混元大模型，包含騰訊元寶、騰訊雲、QQ、微信讀書、騰訊新聞、騰訊客服等。此前，騰訊旗下協作SaaS（軟件即服務）產品已全面接入騰訊混元大模型。

同時，騰訊全矩陣的大模型產品目前已經在知識管理、智能客服、研發提效、智能營銷、內容生成、辦公協同、風險管控等落地。

新發布AI infra品牌“騰訊雲智算”和RAG解決方案

在大會上，騰訊雲還發布了AI infra品牌“騰訊雲智算”，並推出了RAG解決方案，進一步展示了其在AI計算基礎設施和大模型應用定製上的能力。

“騰訊雲智算”是騰訊雲打造的集計算、存儲、網絡爲一體的高性能智能計算平臺。該平臺整合了騰訊雲高性能計算HCC、高性能網絡IHN星脈、高性能雲存儲、加速框架、容器、向量數據庫等多項騰訊雲的優勢產品，提供了性能領先、多芯兼容、靈活部署的AI計算能力。

在穩定性和性能上，騰訊雲的集羣千卡單日故障數已經刷新到0.16，是行業水平的1/3；1分鐘就能完成萬卡checkpoint寫入，數據讀寫效率是業界10倍；千卡集羣的通信時間縮短到6%，是業界一半。

同時，通過整合軟硬件技術能力，騰訊雲智算集羣從機器上架到開始訓練可以做到只需1天，相比業界以月爲單位也大爲縮短。

騰訊雲智算的靈活性也體現在其支持多種雲部署方式，包括公有云、私有云和分佈式雲，使其成爲國內大模型廠商的優選解決方案，同時也幫助大量IDC廠商向AIDC轉型。

除了“騰訊雲智算”，騰訊雲這次還發布了RAG解決方案，支持企業用多種技術“量身定製”AI大模型應用。

該方案包括兼容Elastic開源生態的騰訊雲智能搜索（騰訊雲Elasticsearch Service）以及騰訊雲自研的向量數據庫，幫助企業根據架構、數據類型和技術生態靈活選擇合適的組件。

騰訊雲智能搜索提供了從模型管理、向量生成、向量存儲、混合搜索、結果重排到大模型集成的全鏈路RAG能力。企業僅需使用Elastic的技術棧，就能快速搭建AI應用。

該技術已經成功支持了微信讀書的“AI問書”功能，爲億級用戶提供毫秒級的檢索服務，同時相比傳統解決方案大幅降低了90%的機器成本。

針對數據規模大、數據類型多樣的企業，騰訊雲的向量數據庫提供2倍於行業平均水平的吞吐能力和毫秒級響應延遲，支持千億級的單表存儲規模，爲企業構建強大的AI數據中臺，打造RAG應用基礎設施。

湯道生：如何打破企業內卷

湯道生在會上指出，目前國內企業面臨着內外部多重挑戰，甚至陷入“內卷式競爭”的困境，但如果蛋糕不增長，結果就是“零和”遊戲。

他認爲，企業要想實現增長，關鍵在於打破常規，探索產業的新發展。

爲此，他提出了企業破局增長的三個方向：以數提效、順勢而爲、揚帆出海。

具體來說，第一個增長方法是以數提效，聚焦核心場景。湯道生強調，指望大模型在短期內給企業帶來巨大變革並不現實，企業更應該藉助AI在現有業務場景中提升效率、降低成本，這種穩健的路徑更能夠爲企業帶來長遠的競爭力。

目前，騰訊的混元大模型已經落地到騰訊700多個業務場景中，同時，根據國內大模型評測機構SuperCLUE前天發佈的最新報告，騰訊混元Turbo總分位列國內第一，在11個能力項測評中，8項核心任務排名國內第一，中文場景效果對標GPT-4o。

第二個增長思路是順勢而爲，抓住新產業機會。湯道生表示，國家正大力推動新質生產力的發展，新能源、電動車、消費電子等新興產業蓬勃興起。

在數字產業領域，國產軟件企業也迎來了前所未有的發展機遇。騰訊雲積極響應國家政策，深耕基礎軟件、雲計算、大數據、人工智能等核心技術領域，助力國產軟件產業崛起，爲企業增長開拓新的機會。

第三個增長機會是揚帆出海，開拓全球市場。當前，越來越多的中國企業將海外市場列爲戰略重點。相關機構調研顯示，90%的企業有意拓展國際業務，四分之一的企業計劃在未來1到3年內優先佈局海外市場。談及企業出海的新機遇，湯道生表示，以“雲”爲載體的中國產業經驗和科技優勢，正在成爲企業出海開拓全球市場的有力支撐。

湯道生指出，當前，企業出海模式已經發生轉變，從原來“產品出海”發展到“平臺出海”，供應鏈和商業模式向海外遷移，需要考慮系統、產品、數據和服務的打通，實現“全球一盤棋”管理，這對數字化基礎設施和管理手段有很高的要求。

自2016年開始，騰訊雲開展海外業務，也始終重視技術研發領域投入，自2018年至今6年多研發投入累計超過3000億元，截至目前，騰訊雲已經打造了遍佈全球的雲基礎設施，覆蓋五大洲21個地區，運營着58個可用區、3200多個全球加速節點。

目前，騰訊雲已經成功服務10000多家海外客戶，國際業務連續三年保持雙位數高速增長。截至目前，騰訊雲在全球範圍內擁有超過11000家合作伙伴，這些夥伴貢獻了國際業務80%的收入。

頭圖來源：騰訊

騰訊混元大模型大模型