OpenAI安全副總裁、北大校友Lilian Weng宣佈離職,有時間寫博客了

機器之心報道

編輯：Panda、陳陳

自從 Sam Altman 重新執掌 OpenAI 以來，該公司就陷入了持續不斷的高管離職潮中。雖然近段時間有些外部新高管加入，但很顯然這個離職潮仍未結束。

就在剛剛，OpenAI 安全系統團隊負責人翁荔（Lilian Weng）在 X 上宣佈將離開已經工作了近 7 年的 OpenAI。同時，她還公開分享了發給團隊的離職信，不過其中並未明確說明她接下來的職業計劃。

推文發佈後，OpenAI 內外的一些知名人士爲其送上了祝福，包括著名研究科學家 Noam Brown、OpenAI 首席信息安全官 Dane Stuckey、思維鏈提出者 Jason Wei 等等。

當然，許多網友也紛紛送上了自己的祝福，畢竟她不僅在 OpenAI 推動了安全相關的研究和實踐，偶爾更新的博客 Lil’Log 也實實在在地幫助了很多人。

Lilian Weng 博客地址：https://lilianweng.github.io/

以下是她與團隊分享的離職信的中文版：

親愛的朋友們，

我做出了離開 OpenAl 的艱難決定。11 月 15 日將是我在辦公室的最後一天。

OpenAl 是我成長爲科學家和團隊領導者的地方，我將永遠珍惜與我一路共事和結交的朋友在一起的時光。OpenAl 團隊一直是我的知己、老師，也是我身份認同的一部分。

我還記得 2017 年 OpenAl 的使命讓我多麼着迷，一羣人夢想着一個不可能實現的科幻未來。在這裡，我一開始研究的是全棧機器人難題 —— 從深度強化學習算法到感知再到固件 —— 目標是教會單臺機械手如何解決魔方問題。整個團隊花了兩年時間，但我們最終做到了。

當 OpenAl 進入 GPT 範式，我們開始探索將最佳 AI 模型部署到現實世界的方法時，我組建了第一個應用研究（Applied Research）團隊，推出了微調 APl、嵌入 APl 和審覈端點的初始版本，爲應用安全工作奠定了基礎，併爲許多早期 API 客戶提供了新的解決方案。

GPT-4 發佈後，我被要求接受一項新挑戰，重新考慮 OpenAl 安全系統的願景，並將工作集中在一個擁有完整安全椎棧的團隊之下。那是我曾做過的最困難、壓力最大又最激動人心的事情之一。現在，安全系統（Satety Systems）團隊有超過 80 位出色的科學家、工程師、產品經理、政策專家，而且我爲我們作爲一個團隊所取得的一切成就感到非常自豪。我們一起成爲了每次發佈的基石 —— 從 GPT-4 及其視覺和 turbo 版本到 GPT Store、語音功能和 o1。我們在訓練這些模型使其既強大又負責任方面所做的工作爲行業樹立了新的標準。我爲我們在 o1-preview 模型方面取得的最新成就感到特別自豪，它是我們迄今爲止最安全的模型，在保持其實用性的同時，表現出對越獄攻擊的卓越抵抗力。

我們一起取得了令人矚目的成就：

回顧我們所取得的成就，我爲安全系統團隊的每個人都感到驕傲，我非常有信心團隊將繼續蓬勃發展。我愛你們❤️。

現在，在 OpenAl 工作了 7 年後，我準備重新開始並探索一些新東西。OpenAl 正處於火箭般的增長軌跡上，我只希望這裡的每個人都一切順利。

附言：我的博客還在，會繼續下去。我可能很快就會有時間更頻繁地更新它，也可能會有更多時間來編程；)

愛你們的，

Lilian

Lilian Weng 介紹

Lilian Weng 是 OpenAI 華人科學家，她 2018 年加入 OpenAI，參與了 GPT-4 項目的預訓練、強化學習 & 對齊、模型安全等方面的工作。她本科畢業於北大，曾前往香港大學進行短期交流，博士畢業於印第安納大學伯明頓分校。

根據領英資料顯示，Lilian Weng 在 OpenAI 已經工作了近 7 年時間，擔任安全研究副總裁一職。

2021 年 - 2023 年工作期間，Lilian Weng 建立並領導了應用人工智能研究團隊，包括產品研究、合作伙伴研究和應用安全，從而使得 OpenAI 的 API 更強大、更實用、更安全。

之前，她還是 OpenAI 機器人團隊的技術主管，專注於訓練關於機器人任務的算法，如教機械手如何解決魔方、旋轉方塊等。

在加入 OpenAI 之前，她還在 Facebook、Dropbox 從事軟件工程和數據科學方面的工作。

Google Scholar 顯示，Lilian Weng 論文引用量超過 13000 多次。