阿爾特曼退出,OpenAI安全與安保委員會改爲獨立董事會監督委員會
IT之家 9 月 17 日消息,OpenAI 於今年 5 月 29 日宣佈董事會成立安全與安保委員會,負責就 OpenAI 項目和運營的關鍵安全與保障決策提出建議。
OpenAI 今日發佈公告,稱其安全與安保委員會將改組爲一個獨立的董事會監督委員會,由卡內基梅隆大學計算機科學學院機器學習系主任 Zico Kolter 擔任主席職位。
這一委員會中還包括 Quora 聯合創始人兼首席執行官 Adam D'Angelo、美國退役陸軍上將 Paul Nakasone 和索尼公司前執行副總裁兼總法律顧問Nicole Seligman,均爲 OpenAI 董事會現有成員。同時,阿爾特曼也已經從安全與安保委員會離開。
今年夏天,有五名美國參議員聯合致信對 OpenAI 的政策提出了質疑,因爲公司早期曾專注於 AI 長期風險的員工中已經有近一半離職,而他們大都指責阿爾特曼反對“真正的 AI 監管”。
OpenAI 表示,該委員會之前對其最新 AI 模型 o1 進行了安全審查,該委員會將繼續聽取有關公司主要模型的簡報,並保留在解決安全問題之前延遲發佈的權力。
據稱,在該公司的內部評估中,o1 模型被評爲“中等風險”。OpenAI 還表示,它正在努力採納委員會的建議,以提高透明度和與外部團體的合作,並在越來越多的產品團隊中統一其安全實踐。
據傳,該公司正在進行一輪融資,籌集 65 億美元以上,這將使 OpenAI 的估值超過 1500 億美元(IT之家備註:當前約 1.07 萬億元人民幣)。爲了達成這筆交易,OpenAI 可能放棄其混合非營利公司結構。