【獨家】百萬tokens降價至0.8元后,豆包模型毛利率已能達到50%
界面新聞從多個知情人士處獲悉,豆包大模型去年大幅降價後,毛利率依然爲正。其中,字節跳動最新推出的豆包大模型1.5,在推理成本優化上取得進一步突破。在火山引擎上售賣API的Doubao-1.5-pro,毛利率仍能達到50%。
去年5月,字節跳動正式對外發布豆包大模型。其中,豆包通用模型pro-32k版,模型推理輸入價格僅每百萬tokens 0.8元,而當時市場上同規格模型的定價一般爲每百萬tokens 120元,是豆包模型價格的150倍。
豆包大模型降價之後,阿里雲通義大模型等產品也相繼調低了價格。市場上也一直有聲音質疑價格大幅降低之後,大模型是否還能賺錢。上述知情人士表示,現在看來,這種擔心有些多慮了。
火山引擎總裁譚待此前接受界面新聞採訪時,也曾經談及過模型大幅降價的問題。在他看來,使用量足夠大,才能打磨出好模型,也能大幅降低模型推理的單位成本。“大模型降價,不能只提供低價的輕量化版本,主力模型和最先進的模型也要夠便宜,才能真正滿足企業的複雜業務場景需求,充分驗證大模型的應用價值,從而催化出超越現有產品和組織模式的創新。”
從過去一年的發展來看,豆包通用大模型在市場上的表現一定程度上驗證了譚待的判斷。
一方面,豆包大模型的調用量在快速增長。字節跳動對外公佈的數據顯示,截至去年12月中旬,豆包通用模型的日均tokens使用量已超過4萬億,較首次發佈時增長了33倍。
另一方面,豆包大模型的能力快速提升,但成本仍在持續降低。1月22日,字節跳動發佈了豆包大模型1.5Pro,性能比之前版本顯著增強,多項基準測試甚至超過GPT4o,推理成本卻大幅降低。據字節跳動官方介紹,豆包1.5採用大規模稀疏MoE架構,性能等效7倍激活參數的稠密模型,遠高於業界常規的3倍槓桿。
界面新聞查詢火山引擎官網發現,Doubao-1.5-pro-32k的百萬tokens輸入價格仍爲0.8元,命中緩存爲0.16元,輸出價格爲2元;輕量化版本Doubao-1.5-lite-32k的百萬tokens輸入價格0.3元,命中緩存0.06元,輸出價格0.6元。兩款模型價格在業界同級別最低。
新模型在價格保持不變的同時,隨着推理成本持續優化,毛利率也顯著增加。一位接近火山引擎的知情人士透露,豆包大模型API之前只能說是有合理毛利率,1.5版的毛利則能達到50%的可觀水平。
大模型應用正在向各行各業加速滲透。據字節跳動方面此前公佈的信息,豆包大模型已經與八成主流汽車品牌合作,並接入到多家手機、PC等智能終端,覆蓋終端設備約3億臺,來自智能終端的豆包大模型調用量在半年時間內增長100倍。最近幾個月,豆包大模型在信息處理場景的調用量增長了39倍,客服與銷售場景增長16倍,硬件終端場景增長13倍,AI工具場景增長9倍,學習教育等場景也有大幅增長。
但上述知情人士透露,由於研發投入巨大,字節的大模型業務仍是虧損狀態。只有持續擴大應用側的模型調用規模,才能長期攤銷掉研發成本。
界面新聞向字節跳動方面求證上述信息,截至發稿,對方暫未迴應。