商湯賈安亞：大模型未來趨勢是讓大家變成更會用 AI 的人

採訪嘉賓 | 賈安亞，商湯科技 Copilot 產品負責人

作者 | 華衛

大模型圈在不斷加速，但已不再侷限於模型本身，而是轉向了應用層的比拼。如今，大模型廠商、雲服務商以及創業公司都紛紛投身於生產力工具的競爭。從模型開卷到應用，不少用戶對大模型的態度在逐漸發生變化，開始從最初的興奮逐漸過渡到更爲理性地審視，對其應用產品的期待與要求也隨之提升。

爲此，InfoQ 與商湯科技 Copilot 產品負責人賈安亞進行了一場深度對談，聽她聊一聊大模型生產力工具的市場發展、價值應用與未來趨勢。在 QCon 上海 2024 上，InfoQ 也邀請到了賈安亞老師來做演講分享，她深入分析了大模型生產力工具類產品在確定性和行業競爭方面的難點，並對未來的 AI 工具產品形態作進一步預測和探討。

以下爲對話實錄，經編輯。

大模型生產力工具的市場可行性

InfoQ：訓練大模型生產力工具的技術難點是什麼？如何解決數據質量等問題？

賈安亞：一是訓練數據的數量、質量和多樣性，大模型需要大量高質量、多樣化的數據進行訓練。然而，獲取足夠的、具有代表性的數據集可能具有挑戰性。二是算力資源需求，大模型訓練通常需要龐大的計算資源和存儲空間，所以需要持續優化模型結構、優化訓練效率。三是實際場景對齊，通用大模型的能力和最終場景的用戶體驗有一些差異，所以需要在訓練過程中結合最終使用場景使用大量人力做對齊。

InfoQ：大模型生產力工具的研發和部署需要多少成本？如何平衡投入與產出？

賈安亞：研發和部署成本和應用場景、服務人羣、部署形態有很大的關係。在雲端部署通用模型，需要平衡用戶體驗（延遲、精度等）、推理成本，所以需要續優化推理框架，實現推理效率的提升。面向特定場景特定客戶的私有化部署，因爲終端算力的限制，對模型的參數量有較大限制，同時模型在通用能力之外需要能服務特定場景的能力，所以會通過 RAG、COT 等方式實現特性化能力，通過量化等方式降低推理成本。

InfoQ：對企業來說，大模型生產力工具相比傳統工具，在提升工作效率、降低人力成本、創新業務模式等方面有哪些顯著優勢？

賈安亞：從對企業價值角度分爲 3 層，以研發助手爲例，第一層是增強當前工作效率，通過研發助手輔助生成代碼，生成單元測試等，增強研發人員的工作效率。這也是市面上大多數研發助手在做的。

第二層是積累優質研發資產，企業有自己積累多年的文檔、代碼庫等等，如何讓代碼生成是符合企業要求的，如何將大量的技術文檔的價值給釋放出來，給所有的人員賦能，是企業關注的。同時如何將新生成文檔和通過大模型提高質量，變成優質資產，持續的積累起來，也是企業關注的。從生產到消費，大模型都可以發揮重要作用。

第三層是探索新的研發模式，從更全局的視角來看，代碼輔助只是整個軟件研發流水線的一環，整個流水線是：需求（客戶）=》需求規格書（產品經理）=》概要設計書、詳細設計書（架構師）=》代碼編寫（研發人員）=》測試用例編寫和執行（測試人員）=》部署上線（運維人員）。真正的讓整個流水線能夠向更快速的業務價值閉環驗證，纔是真正的改變生產力。

InfoQ：企業如何將大模型生產力工具商業化？目前有哪些正在或者已經驗證的商業模式和盈利途徑？

賈安亞：一， SaaS 服務：提供基於訂閱的服務，讓客戶按需使用。二，私有化部署或一體機：對於數據安全要求較高的服務，提供私有化部署或一體機的方案。三，幫助企業落地的過程中提供專業諮詢服務。

大模型生產力工具的應用與推廣

InfoQ：在大模型生產力工具的推廣和應用過程中，會遇到哪些挑戰？如用戶使用門檻、數據隱私保護、技術門檻等。

賈安亞：用戶使用門檻是基於對話的交互模式要求用戶提出高質量的問題，以獲得有用的回答。然而，很多用戶可能不熟悉如何構建有效的問題，這增加了使用難度，可能影響工具的普及和效果。再是信息安全需求，處理企業內部各類資產和敏感信息時，信息安全是首要考慮的問題。爲滿足企業的信息安全和合規要求，通常需要在本地或私有云上進行私有化部署，確保數據不外泄。這增加了部署和維護的複雜性。

最後是同質化競爭。目前市場上各廠商推出的大模型生產力工具功能相似，缺乏顯著的差異化。這導致市場競爭激烈，企業在選擇產品時難以根據功能特性作出決策，也給廠商帶來了提升市場份額的挑戰。

InfoQ：在選擇和使用大模型服務時，企業應關注哪些關鍵因素？

賈安亞：模型性能和適用性：確保模型能夠滿足業務需求。安全性和合規性：服務商是否具備完善的安全措施和符合相關法規。可擴展性和定製性：模型和服務是否可以根據企業需求進行擴展和定製。成本：考慮總擁有成本，包括初始投入和長期運營費用。

InfoQ：企業應如何制定戰略以有效利用大模型生產力工具，實現業務增長和創新？

賈安亞：一，明確業務目標：確定哪些業務領域可以受益於大模型工具。二，人才培養和引進：建立專業的團隊或與外部專家合作。三，持續迭代和優化：根據反饋不斷改進模型和流程。四，跨部門協作：促進技術團隊與業務部門的合作，確保工具的有效落地。

InfoQ：企業如何適應大模型生產力工具帶來的組織結構和文化變化？

賈安亞：大模型原生產品的落地應用，可採用自頂向下管理要求 + 自下向上員工主動相結合的方式，從確定性較強的場景，以輔助軟件研發場景爲例，如測試報告、測試用例生成，運營數據分析，向前面的設計、需求逐步推進，輔之以激勵員工的方式方法。讓全體員工明白，未來趨勢是讓大家變成更會用 AI 的人，才能提升個體和企業的競爭力。

大模型生產力工具的未來發展

InfoQ：大模型生產力工具在未來幾年的發展趨勢是什麼？可能會出現哪些新的應用場景？

賈安亞：多模態模型：融合文本、圖像、語音等多種數據類型的應用將更加普及；快慢思考場景分離：基於 GPT O1 的理念，針對慢思考場景的應用會更加成熟；實時協作和交互：工具將更注重實時性和交互性，提升用戶體驗。

InfoQ：未來幾年內，市場對大模型生產力工具的需求將如何變化？

賈安亞：隨着企業數字化轉型的推進，對智能化工具的需求將持續增長，競爭也將加劇，更多參與者進入市場，促進行業創新。

InfoQ：未來大模型生產力工具在技術上的創新方向是什麼？如何進一步提升其性能和效率？

賈安亞：多模態融合、代碼數理等理科能力進一步增強；和智能硬件、具身智能的深度融合，進一步對物理世界產生影響；推理性能優化：創新的推理框架、量化技術等等。

InfoQ：近期各種生成式 AI 的工具助手產品層出不窮，未來大模型生產力工具如何能卷出差異化？市場競爭格局將如何演變？

賈安亞：一，專注於用戶體驗：提供更直觀、易用的界面和功能。二，垂直整合：深耕特定行業，提供更專業的解決方案。三，開放生態：建立開放的平臺，吸引開發者和合作夥伴，共同創新。

會議推薦

在 AI 大模型技術如洶涌浪潮席捲軟件開發領域的當下，變革與機遇交織，挑戰與突破共生。2025 年 4 月 10 - 12 日，QCon 全球軟件開發大會將在北京召開，以 “智能融合，引領未來” 爲年度主題，匯聚各領域的技術先行者以及創新實踐者，爲行業發展撥雲見日。現在報名可以享受 8 折優惠，單張門票立省 1360 元，詳情可聯繫票務經理 18514549229 諮詢。

今日薦文

你也「在看」嗎？