奧特曼之後，Anthropic CEO再發長文：“強大AI”最快2026年到來

21世紀經濟報道記者孔海麗 北京報道

在全球AI界，Anthropic是另一家知名初創公司，並普遍被視爲OpenAI最大熱門的對手，目前估值達到400億美元。

事實上，Anthropic的創始人達里奧·阿莫戴伊（Dario Amodei），正是OpenAI的原研究副總裁，負責OpenAI GPT-2和GPT-3模型的開發。他於2020年底辭職，2021年2月與時任OpenAI安全政策副總裁的妹妹達妮埃拉·阿莫代伊，共同創立了這家新公司。

繼OpenAI CEO 塞姆·奧特曼（Sam·Altman）發佈長文預測AI未來之後，達里奧·阿莫戴伊近日也在其個人博客發表了一篇萬字長文——《慈愛的機器——人工智能如何讓世界變得更美好》（“Machines of Loving Grace——How AI Could Transform the World for the Better”），展望了未來5-10年“強大AI”對人類生活的潛在影響，並詳細闡述了強力AI對五個具體領域——生物學和健康、神經學科和心理、經濟發展和消除貧困、和平與治理、工作和人類意義的積極應用。

達里奧提出了powerful AI（強大AI）的概念。強大AI，是一種AI模型或者說AI系統，在純粹的智能方面，它比大多數相關領域的諾貝爾獎獲得者更聰明，可以證明未解決的數學定理，寫出優秀小說，從頭開始編寫困難的代碼庫等。

除了跟人聊天，它還擁有人類虛擬工作時可用的所有“接口”，包括文本、音頻、視頻、鼠標和鍵盤控制以及互聯網訪問；可以被賦予需要數小時、數天或數週才能完成的任務；可以通過計算機控制現有的物理工具、機器人或實驗室設備。

理論上，強大AI甚至可以爲自己設計機器人或設備來使用。如果該預測成爲現實，就標誌着通用人工智能“奇點”時刻的到來，雖然達里奧特別聲明自己不喜歡AGI（通用人工智能）這個詞。達里奧認爲，強大AI最早可能在2026年出現。

無獨有偶，Sam Altman在9月份的一篇個人文章裡也作出樂觀預測，“我們可能在幾千天內就會迎來超級智能”。他說的“超級智能”與達里奧說的“強大AI”含義應該是接近的。

關於生物學和健康領域，達里奧在前述文章裡稱，AI支持的生物學和醫學將使我們能夠在5-10年內壓縮人類生物學家在下一個50-100年內取得的進步。他將這稱爲“壓縮的21世紀”：強大的AI將消除大多數癌症，有效預防和治癒遺傳病，預防阿爾茨海默病，改善大多數其他疾病的治療，實現“生物學自由”（例如控制體重、外貌等），人類預期壽命延長一倍至150歲。

“100年的進步在5-10年內實現”的框架，以同樣的方式適用於神經科學，原因與生物學相同。

在分子生物學、化學和遺傳學領域，AI加速的神經科學可能會極大地改善治療，甚至治癒大多數精神疾病，並極大地擴展“認知和心理自由”以及人類的認知和情感能力。

值得一提的是，今年諾貝爾物理學獎授予兩位人工智能奠基者，正是表彰他們在使用人工神經網絡進行機器學習研究方面作出的重大貢獻；今年諾貝爾化學獎授予三位蛋白質設計和蛋白質結構預測方面作出重大貢獻的人工智能科學家，則是AI正在強力突破生物學和醫學傳統研究的佐證。

在經濟發展和消除貧困方面，強大的AI可以幫助發展中國家迎頭趕上發達國家，且AI可以幫助提供公共服務，幫助維護世界和平等等。

“如果所有這些真的在5到10年內發生——大多數疾病被擊敗，生物和認知自由的增長，數十億人擺脫貧困，共享新技術——我想所有目睹它的人都會被這種影響所感動”，達里奧預測的這些樂觀願景，當然是人工智能向善或者說“Machines of Loving Grace（慈愛的機器）”的最好結果。

達里奧的這種價值取向，與他創辦Anthropic的初衷是相吻合的，即，AI價值觀與人類的價值觀應該“對齊”，Anthropic的目標是構建一個可靠、可解釋、可控的以人類（利益）爲中心的人工智能系統。OpenAI聯合創始人、前首席科學家伊爾亞·蘇茨克維（Ilya Sutskever）也是持有“AI（與人類）對齊”的價值觀。

而公司價值觀和發展方向的重大分歧，正是OpenAI高管團隊持續動盪的根本原因。繼蘇茨克維今年5月離職後，9月26日，首席技術官、首席研究官、研究副總裁同時宣佈離職。公司對齊團隊已經解散。10月2日，聯合創始人杜爾克·金馬宣佈加入Anthropic。OpenAI最初的11名創始成員中，如今只剩下兩位：CEO奧特曼及一位語言和代碼生成團隊負責人。近一年來披露的信息表明，OpenAI擺脫了安全團隊的束縛後，正在急不可耐地尋求商業利益回報。

而專注於AI風險研究的達里奧表示，大多數人低估了AI積極面的潛力，就像大多數人低估了風險的嚴重性一樣。“必須有一些我們爲之奮鬥的東西”，達里奧否認自己是悲觀主義者或“末日論者”，他堅信，強大AI可以實現，並且比今天的世界好得多。

達里奧創立的Anthropic，起步雖然比OpenAI晚了6年，但爆發力驚人。

2023年3月，Anthropic推出初代大模型Claude；7月，Anthropic公司發佈第二代人工智能Claude2；今年3月，Anthropic發佈Claude3Claude 3，宣佈在全方位能力上實現了對OpenAI GPT-4的超越；三個月後的6月20日，Anthropic推出Claude 3.5 Sonnet，在主要性能上力壓GPT-4o和谷歌的Gemini 1.5 Pro。步步緊逼之下，奧特曼感受到了巨大的壓力。

大模型開發是一場極爲昂貴的金錢遊戲，其訓練成本正呈指數級增長。當初GPT-4的訓練成本是1億美元。今年7月，達里奧在一檔訪談節目裡透露，當前AI模型訓練成本是10億美元，未來三年，這個數字可能會上升到100億美元甚至1000億美元。馬斯克今年要花30億至40億美元採購英偉達的芯片，其中一個重要開支就是訓練Grok 3。它們創業初期必須承受鉅額虧損。

這些AI獨角獸大都背靠科技巨頭，OpenAI後面是微軟，Anthropic的後面是谷歌。在此基礎上，不斷尋求融資。OpenAI剛完成66億美元融資和40億美元循環再貸款，估值達到1570億美元；而Anthropic在9月底也被曝出以最高400億美元估值尋求新一輪融資。

在朝着強大AI或者說通用人工智能的路上，Anthropic們正在日夜狂奔。正如2024年諾貝爾物理學獎頒獎詞所言，無論是悲觀還是樂觀，有一點可以肯定，人工智能“正在徹底改變科學、工程和日常生活”。