字節啓動AGI長期研究計劃 確定這五大方向
《科創板日報》1月23日訊(記者 張洋洋)字節跳動AGI計劃正式浮出水面。
《科創板日報》瞭解到,字節豆包大模型團隊已在內部組建AGI長期研究團隊,代號“Seed Edge”,鼓勵項目成員探索更長週期、具有不確定性和大膽的AGI研究課題。
接近字節的知情人士透露,Seed Edge的目標是探索AGI的新方法,代號名中Seed是豆包大模型團隊名稱,Edge代表最前沿的AGI探索。Seed Edge鼓勵跨模態、跨團隊合作,爲項目成員提供寬鬆的研究環境,實行採用更長週期的考覈方式,以保障挑戰真正顛覆性的AGI課題。同時,Seed Edge也將得到單獨的算力資源保障。
根據披露,Seed Edge初步確定了五大研究方向,包括探索推理能力的邊界、探索感知能力的邊界、探索軟硬一體的下一代模型設計、探索下一代AI學習範式、探索下一個scaling方向。
這是字節第一次公開提及AGI的說法。一名字節人士告訴《科創板日報》記者,此前公司慎用AGI,在內部也很少提到這種說法,“這個詞(AGI)幾乎不會在內部出現”。
如今,Seed Edge的成立和AGI長期研究計劃的官宣,也意味着,字節跳動實現了從基礎研究、技術研發、產品應用的全面佈局,這家互聯網科技巨頭正以前所未有的戰略決心投入AI這片星辰大海。
從業界來看,因資源和能力的掣肘,目前不少團隊都在討論是否應對AI預訓練和基礎研究繼續投入。字節則是仍在加碼大模型底層研究,包括提供充分的算力資源、廣泛網羅頂尖研究人才,並打造長期主義的研究環境。
本週,多個字節跳動算力投資項目浮出水面。字節火山引擎長三角算力中心環評文件獲受理,總投資80億,設計服務器機櫃數爲21824臺,網絡機櫃236臺,一座220kV變電站。
字節跳動火山雲太行算力中心二期建設用地規劃許可證獲批,總投資45億元,項目總佔地面積307.5畝,共規劃12kW服務器機櫃15604臺,規劃網絡機櫃510架,結束時間爲2026年5月。
人才招攬上,此前字節跳動與阿里巴巴的人才爭奪戰,已經顯示出這家公司在這場AI戰役中的野心。據《科創板日報》記者瞭解,去年5月,爲儲備最具潛力的研究人才,豆包大模型團隊還啓動了“Top Seed人才計劃”,以極具競爭力的待遇在全球招募頂尖博士畢業生加入。
模型技術和產品應用層面,字節正在穩定輸出更新。就在本週,豆包實現兩連更。兩天前,字節剛發佈最新的“端到端”語音大模型,並基於該模型更新豆包APP的實時語音通話功能。
而在昨天,字節又發佈融合多模態能力的豆包1.5 Pro 模型。這是一個高效MoE(混合專家系統)架構模型,並通過訓練-推理一體化設計,探索模型性能和推理性能之間的極致平衡。字節稱 “用較小激活參數,即可比肩一流超大稠密預訓練模型的性能”。
“聚焦到遠景戰略、企業文化、社會責任等長期重要的事情上去”,2021年5月,在張一鳴卸任字節跳動CEO之際,他如是說出自己接下里的打算。
探索AGI,如今已然成爲他和字節跳動這家公司的“長期重要的事情”,他們追尋出的AGI邊界,也將影響着全球AI潮水的方向。