消息稱字節正式設立 Seed Edge 研究項目
IT之家 1 月 23 日消息,據晚點 LatePost 報道,1 月下旬,字節正式設立代號爲“Seed Edge”的研究項目,核心目標是做比預訓練和大模型迭代更長期、更基礎的 AGI 前沿研究,Seed Edge 已擬定 5 大研究方向。
下一代推理:探索更高效且更通用、提升模型推理能力的方法。
下一代感知:找到統一生成和理解表示的方法,表示和壓縮真實世界,構建“世界模型”。
軟硬一體的模型設計:從軟硬一體出發,探索 Transformer+GPU 之外的模型設計,發揮下一代硬件的能力。
下一代範式:在反向傳播、Transformer 架構、預訓練 + 對齊的模式之外,探索更高效的模型結構和學習方法。
下一代 Scaling 方向:在預訓練和推理階段的 Scaling Laws 之外,探索 Multi-Agent(多智能體)和 Test-Time Training(測試時間訓練,動態調整模型參數)等方向。
據瞭解,Seed Edge 會先以虛擬項目組的方式運行,探索這些不確定性更強的研究方向。
IT之家注意到,過去一年,字節跳動密集發佈了多款 AI 大模型產品。就在昨天,字節跳動還推出了豆包大模型 1.5 Pro,增強了其綜合能力,在知識、代碼、推理、中文等多個測評基準上,據稱綜合得分優於 GPT-4o、Claude 3.5 Sonnet 等模型。
字節跳動官方介紹稱,豆包大模型 1.5 Pro 宣稱“所有模型訓練過程中,未使用任何其他模型生成的數據”。豆包大模型 1.5 全產品,包括 Doubao-1.5-pro,Doubao-1.5-lite,Doubao-1.5-vision-pro 等,將繼續保持原有模型價格不變,加量不加價。