OpenAI的鬧劇，真的源於小題大做麼？

文 ｜ 闌夕

隨着Sam Altman重新回到OpenAI執掌大權，那場兒戲般的宮鬥終於告一段落，前日參加一場連麥，談到對於OpenAI的追劇過程以及盲點，其實信息量相當大，尤其是前阿里巴巴算法專家、心識宇宙創始人陶芳波老師的分享對我的啓發性很高。

陶老師也是最近被轉發巨多的這篇文章的作者，他是在AI這個行業裡躬身入局做了很多年的技術專家，和我作爲使用者和消費者的視角有很大不同，我也簡單總結一下我們聊的內容。

現在回過頭看，OpenAI的宮鬥除了奪權之外，其實還有一條埋了至少半年以上的隱線，它未必是最突出或者首要的矛盾，但實際上造成了董事會和管理層的離心離德。

OpenAI的董事會結構雖然已經被吐槽很多次了，但它之所以那麼奇葩，原因都在於最開始想用這麼一個去商業化的設計方案來實現董事會應當爲全人類負責這個使命，我們現在覺得有問題的「由和業務無關的人來決定公司生死」的處境，其實初心就是這麼考慮的。

如果不是出了這麼一檔子事，如此架構的理想主義甚至還是備受好評的，畢竟它代表了傳統商業經濟形態之外的一種嘗試，而且誕生了一家領軍企業，不可謂不成功。

但是有兩個問題是隨着時間發展逐漸暴露出來的：

其一，是Transformer這條路線太燒錢了，不再是研究型公司負擔得起的，通過大佬們的捐贈只是杯水車薪，必須重新回到融資這條路上才能支持繼續發展；

其二，是理想主義總會高估人性，不知道人類本身也是有侷限性的，你怎麼知道董事會的判斷，是出自自我的偏見，還是真的爲全人類負責呢？或者說，他們憑什麼說自己是爲全人類在做判斷？

所以我才說，不如調幾個不同風格的滿功率GPT-4來擔任董事會，重要事項讓它們來投票決定，這要比人類靠譜多了。

無論如何，Sam Altman一直都有在打補丁，想要兼容現代商業制度，那個董事會的成員最開始是9個人，後來減少到6個人，並長期維持下來，這也是很草率的地方，因爲一般都不會留雙數，但Sam也沒怎麼管，算是一個比較重大的疏忽，說明他根本沒想過後院起火的可能。

根據幾家媒體的最新拆解，董事會的其中一人——在外面研究 人工智能相關政策的Helen Toner——認爲OpenAI的發展過於危險了，甚至認爲如果毀掉OpenAI才能解決問題，那麼這也是拯救全人類的唯一手段。

從時間線上看，是Sam Altman想先動手，他在和Helen Toner長期無法達成共識的情況下，試圖把她從董事會裡拿走，卻慢了一步，Helen說服了首席科學家Ilya反水，聯合其他董事提前把Sam和他的死黨Greg踢出了局，用的理由也是偏保守和監管的那套，認爲Sam太着急了，而且不受控制，對發佈產品的重視度遠高於對齊。

雖然最後證明幾乎所有OpenAI的員工都選了Sam Altman，但在OpanAI內部確實也有很多不贊同過早發佈產品的聲音，他們未必始終都站在Sam這一邊，但都不接受用兒戲般的宮斗方式來達到目的，這太蠢了。

我的看法是，就好比說做好極端情況的應對當然是沒毛病的，如果被毒蛇咬了那我們可以接受截肢保命的代價，但OpenAI的鬧劇在於，現在好像只是有人的胳膊被蚊子咬了一下，然後就直接拿出電鋸要截肢了⋯⋯

陶芳波老師不贊同我的判斷，聽他解釋之後我也意識到確實有很多地方是旁觀位置觀察不到的死角，而陶老師正在前沿做AI Agent，他見到的、經歷的事情，要深很多。

簡單來說，陶老師認爲，控制AI的先決條件，是人類要比AI強大，如果AI超過了人類，那麼人類根本無從判斷AI的決定是對是錯，以致於失去駕馭AI的能力。

所以時間其實很緊張——而不是還有得從容餘地——所謂的「對齊派」根本就還沒有寫好全部後門，而「加速派」就已經迫不及待的要讓AI重構社會了，而在硅谷的大環境裡，「加速派」則是佔據絕對上風的，所以導致了OpenAI的董事會要用那種獨斷的方式來爲公司踩剎車，這事兒可笑歸可笑，但不是不能理解的。

我接觸到的許多AI從業者，都帶回和陶老師很是接近的一種複雜性，怎麼說呢，就是在高度認同AI事業價值的同時，也對AI保持着同樣高度的懷疑和警戒，過去歷史上所有的技術都是工具，現在開始超越了工具，這既讓人感到興奮，也有所不安。

相比之下，我可能更偏樂觀一點，如果現在的世界和社會已經接近完美了，那麼AI引發改變的風險當然需要討論其必要性，但事實是，當下整個人類文明的生產力都還非常低下，我們被困在促狹的地月系統裡，受制於能源、經濟、戰爭等種種因素，如果AI可以造就跨越繁榮的機會，那麼它能救贖的苦難，一定高於危險。

我很尊重技術專家們對於肩負職責的崇高性，但在信息不對稱的世界裡，「飽漢不知餓漢飢」的情形也是比比皆是的，讓大衆市場而非自我道德來做均值迴歸，可能是一個容錯率更高的選擇。

這又回到了OpenAI開發出的那個突破性進展Q Star，時至今日我們都還無法具體瞭解這個引起董事會恐慌暴走的玩意到底是什麼，只能從各種蛛絲馬跡裡來拼湊出一個相對接近的答案：

Sam Altman在早些時候的一次活動裡有過一段略顯突兀的自我問話，大意是不知道究竟是在製造工具，還是創造生物？而在OpenAI內部透露的隻言片語裡，Q Star擁有了「輕微的自我意識」，證據之一就是它已經可以擺脫依賴數據才能開展訓練的限制了，而是可以自我對話（合成數據）實現學習。

連「圖靈三巨頭之一」的Yann LeCun都震驚於這個進展，他說現有大模型需要灌數據只是受限於技術水平不得已而爲之的做法，大模型的訓練數據量理論上可以不設上限——甚至超越人類古往今來的所有知識——但是就像人類和猩猩的基因組之間只有差不多8MB的差異，人類文明從來不是靠堆量堆起來的，AI也不應該這樣。

就像古老時代的哲學家們並不是把天底下的書都看完了才能產生洞見，他們也可以選擇圍爐夜話，通過交談甚至是自我對話來創造新的智慧，如果AI達到了這樣的境界，那麼AGI（通用人工智能）恐怕也是真的要降臨於世了。

今年8月的時候，Sam Altman還發推表示他收到了同事送的「塞爾達傳說：王國之淚」，所以人類獲得AGI的時間要往後推遲4天了——他要用4天時間來打遊戲——沒想到啊，任天堂竟然是專門爲了拯救人類不被AI奴役而專門開發了那款新遊戲，卻也只讓人類滅亡的時間拖了區區4天而已⋯⋯

這是今年夏天，Sam Altman代表OpenAI在全球巡迴演講裡的一張抓拍，構圖和色彩的恰到好處，卻又隱約給這張照片賦予了某種「神性」的意味，對不對？