GPT-4 Turbo重回王座,ChatGPT免費升級!數學暴漲10%/上下文全面碾壓
新智元報道
編輯:桃子 好睏
【新智元導讀】ChatGPT也能用上最強的GPT-4 Turbo了!今天,新版GPT-4 Turbo再次重奪大模型排行榜王座,超越了Claude 3 Opus。而且,新模型在處理64k長上下時,性能直接達到了舊版在26k時的性能。
今天起,最新版的GPT-4 Turbo,正式向ChatGPT Plus用戶開放了!
有了GPT-4 Turbo加持後,ChatGPT寫作、數學、邏輯推理和編碼的能力得到提升。
小編小試,果然ChatGPT最新數據已經更新到了4月。
根據基準測試結果,GPT-4 Turbo在數學能力比上一代有了明顯改進。
這也就不難理解,新版的GPT-4 Turbo今天再次登頂大模型排行榜。
就連奧特曼本人表示,「GPT-4現在更加智能,使用起來也更舒適」。
另外,據OpenAI介紹,GPT-4 Turbo在回覆時,變得更直接、減少囉嗦內容,更加口語化。
一起看看,GPT-4 Turbo在基準測試中能力如何?
數學性能提升近10%
在官方公開GitHub上,OpenAI放出了gpt-4-turbo-2024-04-09最新的評估結果。
主要在以下七大基準上,對模型完成了評估:
MMLU(測量大規模多任務語言理解)
MATH(使用MATH數據集測量數學問題解決能力)
GPQA(研究生級別的谷歌防護問答基準)
DROP(需要對段落進行離散推理的閱讀理解基準)
MGSM(多語言小學數學基準):語言模型作爲多語言思維鏈推理者
HumanEval(評估在代碼上訓練的大型語言模型)
MMMU(用於專家通用人工智能的大規模多學科多模態理解和推理基準)
在這個GitHub庫中,OpenAI主要使用零樣本、CoT設置,並採用簡單的指令,如「解決以下多項選擇題」。
這種提示方式更能真實反映模型在實際使用中的表現。
具體結果如下所示:
最新的gpt-4-turbo比以往的GPT-4系列,在性能上有着明顯的提升。
尤其數學方面,能力實現了近10%的躍階。
而在整體的比較中,新模型也基本上實現了對Claude 3 Opus和Gemini Pro 1.5的全面超越。
大海撈針比初代GPT-4提升4.3倍
同樣的,在大海撈針測試中,最新的gpt-4-turbo也是全方位地超越了此前的1106-preview。
衆所周知,上下文越長,對模型的挑戰就越大。
而gpt-4-turbo可以在處理長達64k Token的內容時,性能直接媲美預覽版在26k Token時的表現。
如果我們回顧一下GPT-4剛發佈時的情況,也就是大約一年之前。
最新的gpt-4-turbo在32k的配置下,性能比初代GPT-4提高了約4.3倍。
順便一提,那個時候,模型能處理的上下文最高只到32k。
GPT-4 Turbo重回王座
前段時間,Anthropic手裡的最強大模型Claude 3 Opus,可以說是霸榜各大榜單。
不過,就在今天,OpenAI憑藉着全新的gpt-4-turbo,又把它從「榜一」的位置上拉了下來。
根據「LLM排位賽」最新的結果,GPT-4-Turbo再次超越Claude 3,奪得第一。
LMSYS Org從多個領域收集了超過8000張人類投票,發現GPT-4-Turbo在編程與推理方面的表現,超越了其他模型。
爲了深入瞭解,研究人員在Arena引入了「類別」功能。
通過這一新功能,可以對編程、長查詢處理和多語言能力等不同領域進行了更詳盡的比較。
研究人員還對編程領域中包含代碼片段的所有對話進行了標記。在這一方面,GPT-4-Turbo展現出更強的性能。
類似的,Naman Jain也發現,新版GPT-4-Turbo在LiveCodeBench(包含編程競賽題)上的表現,提高了驚人的4.5分。
這類問題對目前的LLM來說挑戰很大,而OpenAI此次的更新,明顯是大幅提升了模型推理能力。
在長查詢領域(Token數量超過500),Claude-3 Opus表現最佳。
令人有些意想不到的是,Command R/R+在這一領域中也有着非常高的得分。
有趣的是,如果只涉及英語提示,排名會與整體略有不同。
在這一類別中,三種GPT-4-Turbo依然處於領先地位。
而這種變化的產生,是因爲隨着用戶基數的擴大,語言使用從英語轉向包括中文在內的多種語言。
而在應對不同的語言時,模型的表現也有所差異。
例如,在中文環境中,Claude-3 Opus排名第一。
以下是模型評分的置信區間 (CIs) :
以及整體的勝率熱圖:
參考資料:
https://twitter.com/OpenAI/status/1778574613813006610
https://twitter.com/lmsysorg/status/1778555678174663100