OpenAI開發者大會 推4功能驅動AI更便宜、普及

開發ChatGPT的OpenAI今天舉辦開發者大會,相較於去年,今年顯得格外低調,沒有進行直播,執行長阿特曼也沒有現身。會中針對開發者宣佈4項可以降低成本、並讓AI應用可以更加普及的功能。

OpenAI今天在舊金山舉辦第2屆開發者大會(DevDay),公司前一週才經歷技術長穆拉提(MiraMurati)離職的連串人事動盪,還有公司轉型爲營利企業的爭議,今年活動顯得格外低調。

科技新聞網站TechCrunch報導,產品長魏爾(KevinWeil)在會前強調,穆拉提和研究長麥克葛魯(BobMcGrew)等人離開不會影響公司的進展,並表示他們對OpenAI今天的成就貢獻卓着,公司「不會放慢腳步」。

去年開發者大會結束後不久,OpenAI發生執行長阿特曼(Sam Altman)被董事會開除風波,人事動盪持續將近一年,阿特曼今天並未出席。

此外,在去年的開發者大會上,OpenAI仿效大型科技公司的策略,向消費者宣佈新模型和產品,今年改變作風,主要向開發者社羣宣佈4項功能。

這4項功能包括「提示緩存(Prompt Caching)」,也就是開發者通過重複使用先前執行過的符元(token),能夠大幅降低成本。

第2項新功能爲「視覺微調(Vision Fine-Tuning)」,開發者可以微調AI模型使之更佳地識別特定圖像,爲「自動駕駛」或「醫學影像」應用開啓新頁。

另一項受到較多媒體關注的是即時API(RealtimeAPI)功能,讓開發者打造多模態(語音、文字、圖像)、更低延遲的對話應用,並且更輕鬆地將進階語音功能整合到應用程式中。例如,讓AI代理人打電話訂購巧克力。

此外,還有讓AI更易於使用的「模型提煉(ModelDistillation)」,被視爲一項變革。開發人員可以使用OpenAI大型模型來「訓練」更小的模型,以此創造出針對特定需求的客製化版本,同時運行速度更快,成本更低。

舉例來說,醫療照護新創公司可以利用這項功能,開發能夠在一般硬體設備上執行的AI診斷工具,讓資源有限的環境更容易獲得AI解決方案。

OpenAI產品經理高德蒙(Olivier Godement )表示,公司將不急於在每次活動中推出新模型,而是根據模型的研究進度和安全性,來決定何時推出新產品。