OpenAI和Anthropic同意推出新模型前交給美國政府評估安全

美東時間8月29日週四，據媒體報道，AI領軍企業OpenAI和Anthropic已同意在推出新的AI模型之前，先讓美國政府下面的AI安全研究所來評估這些模型的能力和可能帶來的風險，並共同研究方法以減輕潛在安全隱患，確保這些AI技術不會對社會帶來負面影響。

美國AI安全研究所是2023年在拜登-哈里斯政府的一項關於AI的行政命令下成立的。這個研究所的任務是開發測試、評估和指導方針，以確保AI技術能夠負責任地進行創新。此外，根據美國商務部的國家標準與技術研究所（NIST）週四宣佈的協議，美國政府將與英國的AI安全研究所密切合作，給這些AI公司提供反饋，幫助他們改進安全措施。

美國AI安全研究院所長Elizabeth Kelley對此表示：

OpenAI首席戰略官Jason Kwon對合作表示支持：

Anthropic公司也表示，建立有效測試AI模型的能力非常重要。該公司的聯合創始人兼政策負責人Jack Clark說：

另外，值得注意的是，得到了微軟支持的OpenAI公司正在準備新一輪融資，目標是至少籌集10億美元，這將使公司的估值超過1000億美元。微軟自2019年以來向OpenAI投入了130億美元，現在擁有這家公司49%的利潤分成。

關於新一輪融資的消息大約是在OpenAI透露他們正在測試一個叫SearchGPT的新功能後一個月傳出來的。這個新功能是將AI技術和實時搜索數據結合起來，ChatGPT未來可能不僅能回答問題，還能幫你在網上找答案。