收藏! Anthropic CEO燒腦雄文（略刪減 ):5-10年，AI將掃除人類幾乎所有疾病，壽命翻倍
來源｜AI先鋒官
美國知名AI公司Anthropic CEO Dario Amodei日前發表題爲《慈愛的機器——人工智能如何使世界變得更美好》長文。
文中，他描繪了未來 5-10 年內，從
- 生物學和身體健康
- 神經科學和心理健康
- 經濟發展和貧困
- 社會治理
- 工作與意義
等幾個方面，強大的 AI 開啓的一個充滿希望的未來。
具體如引文，略有刪減。
Dario Amodei擁有斯坦福、加州理工以及普林斯頓的學歷背景，專業是物理學。Amodei對人體大腦功能充滿好奇心，因此在博士後出站後，他加入了百度公司和谷歌大腦團隊，並開發出了人類語音識別系統。2016年，他加入了OpenAI，並最終升至公司副總裁位置。2020年底，Amodei離開OpenAI，並於2021年2月與妹妹共同創立了Anthropic，擔任首席執行官兼總裁。
以下爲文章譯文：
我經常思考和討論日漸強大的AI的風險。我擔任CEO的公司Anthropic，也進行了許多關於如何降低這些風險的研究。因此，有時人們會把我當成一個悲觀主義者或“末日論者”，認爲AI大多是壞的或危險的。
我完全不這麼認爲。
實際上，我專注於風險研究的一個主要原因，是因爲我認爲，“風險”只是唯一阻礙我們實現我認爲的“最終積極未來”的障礙。大多數人低估了AI積極面的潛力，就像我認爲大多數人低估了風險的嚴重性一樣。
在這篇文章中，我試圖勾勒出這些積極面可能是什麼樣子的——如果一切順利，擁有強大AI的世界可能是什麼樣子。當然，沒有人能以任何確定性或精確性預知未來，但強大AI的影響，可能比以往的技術變革，更不可預測。
我的目標至少是，提供有根據且有用的猜測——即使大多數細節最終被證明是錯誤的，也能捕捉到將要發生的事情的精髓。我主要提供許多細節，是因爲我認爲具體化的願景比高度模糊和抽象的願景更有助於討論。
首先，我想簡要解釋爲什麼我和Anthropic沒有太多談論強大AI的優點，以及爲什麼我們可能會繼續主要討論風險。特別是，我做出這個選擇是出於以下願望：
- 最大化影響力。AI技術的基本發展及其許多（不是全部）益處似乎是不可避免的（除非風險破壞了一切），並且基本上由強大的市場力量驅動。另一方面，風險不是預先確定的，我們的行動可以極大地改變它們的可能性。
- 避免宣傳的印象。AI公司談論AI的所有驚人好處可能會被看作是爲了宣傳，或者好像他們試圖分散人們對缺點的注意力。我還認爲，原則上，花太多時間“談論你的書”對你的靈魂是有害的。
- 避免自負。我經常對許多AI風險論公衆人物（更不用說人工智能公司的領導者）談論後AI世界的方式感到反感，好像他們的使命是，像先知引導他們的人民走向救贖一樣單方面地實現它。我認爲將公司視爲單方面塑造世界是危險的，將實際的技術目標以宗教術語來看待也是危險的。
- 避免“科幻”包袱。儘管我認爲大多數人低估了強大AI的積極面，但討論激進AI未來的小圈子經常以過度的“科幻”語調進行（例如，以上傳意識、太空探索或一般的賽博朋克氛圍爲特色）。我認爲，這導致人們不太認真對待這些主張，並向它們灌輸了一種不切實際的幻想。
需要明確的是，問題不在於所描述的技術是否可能，而更多是“氛圍”內涵性地私藏了大量文化包袱和關於什麼是理想未來、各種社會問題將如何發展的未聲明假設等。結果往往讀起來像是一個狹窄亞文化的幻想，同時對大多數人來說是不討喜的。
儘管有上述所有擔憂，我還是認爲討論“一個擁有強大AI的美好世界可能是什麼樣子”非常重要，同時盡我們最大的努力避免上述陷阱。
事實上，我認爲擁有一個真正鼓舞人心的未來願景是至關重要的，而不僅僅是一個滅火計劃。強大AI的許多影響是對抗性的或危險的，但在這一切的最後，必須有一些我們爲之奮鬥的東西，有一些積極的結果，讓每個人都更好，總有一些東西可以激勵人們超越分歧，面對未來的挑戰。
恐懼是一種動機，但這還不夠：我們還需要希望。
強大的AI積極應用的清單非常長（包括機器人技術、製造業、能源等等），但我要專注於我認爲最有可能直接提高人類生活質量的幾個領域。我最興奮的五個類別是：
- 生物學和身體健康
- 神經科學和心理健康
- 經濟發展和貧困
- 社會治理
- 工作與意義
我的預測，按照大多數標準（除了科幻“奇點”願景）被認爲是激進的，但我是認真和真誠的。我說的一切很容易都是錯誤的（正如我上面所重複的），但我已經至少嘗試將我的觀點建立在半分析性的評估基礎上，即各個領域的進步可能加快多少，以及這在實踐中可能意味着什麼。我有幸在生物學和神經科學領域有專業經驗，並且是經濟發展領域的見多識廣的業餘愛好者，但我肯定會犯很多錯誤。寫這篇文章讓我意識到，將一羣領域專家（在生物學、經濟學、國際關係等領域）聚集在一起，寫一個更好、更知情的版本，比我在這裡生產的要好得多。
基本假設和框架
爲了使整篇文章更精確和有根據，有助於明確我們所說的強大AI（即5-10年倒計時開始時）的含義，併爲思考這種人工智能一旦存在時的影響提供一個框架。
強大的AI（我不喜歡AGI這個術語）將是什麼樣子，以及它何時（或是否）會到來，本身就是一個宏大的話題。
我已經公開討論過，並且可能會寫一個完全獨立的文章。顯然，許多人懷疑強大的AI會很快被構建，有些人甚至懷疑它是否會被構建。我認爲，它可能早在2026年就會到來，儘管也有辦法可能會花更長的時間。但就本文而言，我想將這些問題放在一邊，假設它會在合理的時間內到來，並專注於在那之後的5-10年裡會發生什麼。我還希望假設這樣一個系統將是什麼樣子，它有什麼能力，以及它如何互動，儘管在這方面存在分歧的餘地。
通過強大的AI，我心中想的是一個AI模型——可能與今天的LLM在形式上相似，儘管它可能基於不同的架構，可能涉及幾個相互作用的模型，並且可能以不同的方式進行訓練——具有以下屬性：
- 在純粹的智能方面，它比大多數相關領域的諾貝爾獎獲得者更聰明——生物學、編程、數學、工程、寫作等。這意味着它可以證明未解決的數學定理，寫出非常好的小說，從頭開始編寫困難的代碼庫等。
- 除了只是一個“你與之交談的智能事物”之外，它還擁有人類虛擬工作時可用的所有“接口”，包括文本、音頻、視頻、鼠標和鍵盤控制以及互聯網訪問。它可以執行任何由這個接口啓用的操作、通信或遠程操作，包括在互聯網上採取行動，給人類提供或接受方向，訂購材料，指導實驗，觀看視頻，製作視頻等。它再次以超過世界上最能幹人類的技能執行所有這些任務。
- 它不僅僅是被動地回答問題；相反，它可以被賦予需要數小時、數天或數週才能完成的任務，然後像一個聰明的員工一樣自主地去做這些任務，並在必要時請求澄清。
- 它沒有物理載體（除了生活在計算機屏幕上），但它可以通過計算機控制現有的物理工具、機器人或實驗室設備；理論上，它甚至可以爲自己設計機器人或設備來使用。
用於訓練模型的資源可以被重新用於運行它的數百萬實例（這與2027年左右預測的集羣大小相匹配），並且該模型可以以大約10倍-100倍於人類的速度吸收信息和生成行動。然而，它可能受到物理世界響應時間或與之互動的軟件的限制。
這些數百萬副本可以獨立地在無關的任務上行動，或者如果需要，可以像人類一樣協同工作，也許不同的子羣體可以特別擅長特定任務。
我們可以將此總結爲“數據中心的天才國家”。
顯然，這樣的實體將能夠非常快速地解決非常困難的問題，但並不瑣碎的是，要弄清楚它有多快。在我看來，兩個“極端”的立場似乎都是錯誤的。首先，你可能會認爲，世界將在幾秒鐘或幾天的時間內瞬間轉變（“奇點”），因爲更高級的智能在此基礎上構建並立即解決每一個可能的科學、工程和操作任務。這個問題在於，硬件建設或進行生物實驗等實際物理和實踐限制，即使是一個新的天才國家也會遇到這些限制。智能可能非常強大，但它不是魔法仙塵。
其次，相反，你可能會相信技術進步是飽和的，或者受到現實世界數據或社會因素的速率限制，而比人類更聰明的智能將增加很少。在我看來，這同樣令人難以置信——我能想到數百個科學或甚至是社會問題，其中一大羣真正聰明的人將極大地加速度前進，特別是如果他們不僅限於分析，還可以在現實世界中實現（我們的假設天才國家可以，包括指導或協助人類團隊）。
我認爲真相可能是這兩種極端情況的某種混亂混合——根據任務和領域不同，細節非常微妙。我認爲我們需要新的框架，來以一種生產性的方式，思考這些細節。
經濟學家經常談論“生產要素”：像勞動力、土地和資本這樣的東西。“勞動力/土地/資本的邊際回報”這個短語捕捉了這樣一個想法，即在給定情況下，某個因素可能有或沒有限制——例如，空軍需要飛機和飛行員，如果你沒有飛機，僱傭更多的飛行員並沒有太大幫助。我相信，在AI時代，我們應該談論智能的邊際回報，並試圖弄清楚其他因素是什麼，這些因素與智能互補，並在智能非常高時成爲限制因素。我們不習慣以這種方式思考——問“更聰明對這個任務有多大幫助，以及在什麼時間尺度上？”——但這似乎是概念化一個擁有非常強大AI的世界的正確方式。
我對限制或與智能互補的因素的猜測清單包括：
外部世界的運行速度。智能代理需要與世界互動才能完成事情，並且也需要學習。但世界只能以一定的速度移動。細胞和動物以固定的速度運行，因此對它們進行實驗需要一定的時間，這可能是不可簡化的。這同樣適用於硬件、材料科學、與人交流的任何事情，甚至我們現有的軟件基礎設施。此外，在科學中，許多實驗通常需要順序進行，每個實驗都從前一個實驗中學習或建立。所有這些都意味着完成一個重大項目——例如開發癌症治療方法——可能具有不可簡化的最低要求即使智能繼續增加，也無法進一步減少。
對數據的需求。有時缺乏原始數據，在缺乏數據的情況下，更多的智能並沒有幫助。今天的粒子物理學家非常聰明，已經開發了一系列理論，但由於粒子加速器數據非常有限，他們缺乏選擇它們之間的數據。目前尚不清楚，如果他們擁有超智能，他們會做得大不相同——也許他們可以通過加速建造更大的加速器來做得更好。
內在複雜性。有些事情本質上是不可預測的或混亂的，即使是最強大的AI也無法比今天的人類或計算機更好地預測或解開它們。例如，即使是非常強大的AI也只能在一般情況下比今天的人類和計算機稍微更長遠地預測混沌系統（如三體問題），並且只能稍微更好地預測。
來自人類的限制。許多事情不能在不違反法律、傷害人類或擾亂社會的情況下完成。一個對齊的AI不想做這些事情（如果我們有一個未對齊的AI，我們又回到了談論風險的問題）。許多人類社會結構效率低下甚至積極有害，但很難在尊重法律對臨牀試驗的要求、人們改變習慣的意願或政府行爲等約束的同時進行改變。包括核能、超音速飛行甚至電梯在內的技術進步，儘管在技術層面上表現良好，但由於法規或錯誤的恐懼，其影響已大大減少。
物理定律。這是第一點的一個更明顯的版本。有一些物理定律似乎是不可打破的，比如不可能超過光速旅行、芯片在每平方釐米的晶體管數量在變得不可靠之前只能有這麼多等。
還有一個基於時間尺度的變量。在短期內很難的事情，隨着時間的推移，可能對智能更加可塑。例如，智能可能被用來開發一個新的實驗範式，使我們能夠在體外學習以前需要活體動物實驗的知識，或者建造所需的工具來收集新數據（例如更大的粒子加速器），或者（在倫理限制內）找到繞過基於人類限制的方法（例如幫助改進臨牀試驗系統，幫助創建臨牀試驗官僚作風較少的新管轄區，或者改進科學本身，使人類臨牀試驗不那麼必要或更便宜）。
因此，我們應該想象一個畫面，其中智能最初受到其他生產要素的嚴重瓶頸限制，但隨着時間的推移，智能本身越來越多地繞過其他因素，即使它們從未完全消失（有些東西，如物理定律，是絕對的）。關鍵問題是一切都發生得有多快，以及以什麼順序發生。
考慮到上述框架，我將嘗試回答引言中提到的五個領域的問題。
1. 生物學和健康
生物學可能是科學進步最有潛力直接和明確提高人類生活質量的領域。在上個世紀，一些最古老的人類疾病（如天花）終於被征服，但還有更多的疾病仍然存在，戰勝它們將是一個巨大的人道主義成就。甚至超越治癒疾病，生物學可以在原則上改善人類健康的基礎水平，通過延長健康的人類壽命，增加對我們自己生物過程的控制和自由，並解決我們目前認爲是人類條件不可改變的部分的日常問題。
在上一節的“限制因素”框架中，直接應用智能到生物學的主要挑戰是數據、物理世界的運行速度和內在複雜性（實際上，所有三個都相互關聯）。人類限制在後期階段也發揮作用，當涉及到臨牀試驗時。讓我們一一來看。
對細胞、動物甚至化學過程的實驗，受到物理世界速度的限制：許多生物學協議涉及培養細菌或其他細胞，或者簡單地等待化學反應發生，這有時需要幾天甚至幾周的時間，沒有明顯的方法可以加速。動物實驗可能需要幾個月（甚至更長時間），人類實驗通常需要數年（甚至幾十年用於長期結果研究）。與此有些相關的是，數據通常缺乏——不是數量，而是質量：總是缺乏清晰、明確的數據，這些數據將感興趣的生物學效應與其他一萬件正在發生的事情隔離開來，或者在給定過程中進行因果乾預，或者直接測量某些效應（而不是以某種間接或嘈雜的方式推斷其後果）。即使是大規模的定量分子數據，如我在使用質譜技術工作時收集的蛋白質組學數據，也是嘈雜的，遺漏了很多（這些蛋白質在哪些類型的細胞中？細胞的哪一部分？在細胞週期的哪個階段？）。
部分原因是數據問題，內在複雜性：如果你曾經看過一個顯示人類代謝生物化學的圖表，你就會知道，隔離這個複雜系統的任何部分的效應非常困難，更不用說以精確或可預測的方式干預系統了。最後，超出在人類身上進行實驗所需的內在時間，實際的臨牀試驗涉及很多官僚主義和監管要求，（包括我在內，許多人的意見）認爲這些要求增加了不必要的額外時間和延遲。
鑑於這一切，許多生物學家一直對AI和“大數據”在生物學中的價值持懷疑態度。
歷史上，數學家、計算機科學家和物理學家在過去30年中將他們的技能應用於生物學，取得了相當的成功，但沒有實現最初希望的真正變革性影響。一些懷疑因重大和革命性的突破而減少，如AlphaFold（剛剛理所當然地爲其創造者贏得了諾貝爾化學獎）和AlphaProteo11，但仍有一種觀念，即AI（並且將繼續）只能在有限的情況下有用。一個常見的表述是“AI可以更好地分析你的數據，但它不能產生更多的數據或提高數據的質量。垃圾進，垃圾出”。
但我認爲是悲觀的觀點錯誤地考慮了AI。如果我們對AI進步的核心假設是正確的，那麼思考AI的正確方式，不是作爲一種數據分析方法，而是作爲一個虛擬生物學家，執行生物學家所做的所有任務，包括設計和在現實世界中運行實驗（通過控制實驗室機器人或簡單地告訴人類應該運行哪些實驗——就像主要研究者對他們的研究生那樣），發明新的生物學方法或測量技術，等等。
正是通過加快整個研究過程，AI才能真正加速生物學。
我想重複這一點，因爲這是我在談論AI能改變生物學能力時最常出現的常見誤解：我不是在談論AI作爲僅僅分析數據的工具。根據本文開頭對強大AI的定義，我談論的是使用AI來執行、指導和改進生物學家所做的幾乎所有事情。
要更具體地說，我認爲加速可能來自哪裡，生物學的很大一部分進步來自一個真正微小的發現數量，通常與允許對生物系統進行精確但通用或可編程干預的廣泛測量工具或技術有關。也許每年有這樣的重大發現之一，總體來說，它們可能推動了生物學50%以上的進步。這些發現之所以如此強大，正是因爲它們削減了內在複雜性和數據限制，直接增加了我們對生物過程的理解和控制。幾十年來的一些發現，使我們對生物學的基本科學理解，並且推動了許多最強大的治療方法。
一些例子包括：
CRISPR：一種允許活體生物中任何基因進行現場編輯的技術（用任何其他任意基因序列替換任何任意基因序列）。自從原始技術開發以來，一直在不斷改進以針對特定細胞類型，提高準確性，並減少錯誤基因的編輯——所有這些對於人類安全使用都是必要的。
各種類型的顯微鏡，用於觀察精確層面上的情況：先進的光學顯微鏡（具有各種熒光技術、特殊光學等），電子顯微鏡，原子力顯微鏡等。
基因組測序和合成，在過去幾十年中，成本下降了幾個數量級。
光遺傳技術，通過在它上面照射光線，可以讓你得到一個神經元發射。
mRNA疫苗，原則上允許我們設計針對任何事物的疫苗，然後快速適應它（mRNA疫苗當然在COVID期間變得出名）。
細胞療法，如CAR-T，允許免疫細胞從體內取出並“重新編程”以攻擊，原則上，任何事情。
概念性洞察，如疾病細菌理論和免疫系統與癌症之間的聯繫的認識。
我之所以不厭其煩地列出所有這些技術，是因爲我想就它們提出一個關鍵主張：如果有更多有才華、有創造力的研究人員，我認爲這些發現的速率可以增加10倍或更多。或者換句話說，我認爲這些發現對智能的回報很高，生物學和醫學中的其他一切都基本上跟隨它們。
爲什麼我這麼認爲？因爲我們在試圖確定“智能的回報”時，應該習慣問一些問題的答案。首先，這些發現通常由極少數研究人員做出，通常是同一羣人反覆做出，這表明技能而不是隨機搜索（後者可能表明漫長的實驗是限制因素）。其次，它們通常“可以比它們早幾年”被製造出來：例如，CRISPR是細菌中自然發生的免疫系統組成部分，自80年代以來就已經知道，但花了另外25年的時間人們才意識到它可以被重新用於一般基因編輯。它們也因科學界對有前途的方向缺乏支持而推遲了許多年（參見有關mRNA疫苗發明者的簡介；類似的故事比比皆是）。第三，成功的項目通常是臨時的或者是人們最初不認爲有希望的附帶項目，而不是大規模資助的努力。這表明，不僅僅是大規模資源集中推動發現，更多是聰明才智。
最後，儘管其中一些發現具有“序列依賴性”（你需要首先做出發現A，以便擁有工具或知識來做出發現B）——這可能會再次造成實驗延遲——但許多，也許是大多數，是獨立的，意味着許多可以同時進行。這兩個事實，以及我作爲生物學家的一般經驗，強烈表明，如果科學家們更聰明，更擅長在人類擁有的大量生物學知識之間建立聯繫（再次考慮CRISPR的例子），就有數百個這樣的發現等待被製造。 AlphaFold/AlphaProteo在解決比人類更有效的問題的方面的成功，儘管在狹窄領域有一個狹窄的工具，提供了一個原則證明，應該指明前進的方向。
因此，我猜測強大的AI至少可以將這些發現的速率提高10倍，給我們在5-10年內帶來下一個50-100年的生物學進步。
爲什麼不是100倍？也許這是可能的，但在這裡，序列依賴性和實驗時間變得重要：在1年內獲得100年的進步，需要很多事情第一次就做對，包括動物實驗和設計顯微鏡或昂貴的實驗室設施這樣的事情。我實際上對（聽起來可能荒謬的）想法持開放態度，即我們可以在5-10年內獲得1000年的進步，但我對在1年內獲得100年持懷疑態度。另一種說法是，我認爲有一個不可避免的恆定延遲：實驗和硬件設計有一定的“延遲”，需要迭代一定數量的“不可約”次數，以瞭解不能邏輯推斷的事情。但在那之上，大規模的並行性可能是可能的。
關於臨牀試驗和社會障礙，值得明確的是，從某種意義上說，生物醫學創新在成功部署方面有着異常強大的記錄，與其他一些技術形成對比。如引言中所述，許多技術儘管在技術上表現良好，但受到社會因素的阻礙。這可能表明對AI可以完成的事情持悲觀態度。但生物醫學是獨特的，儘管開發藥物的過程過於繁瑣，一旦開發出來，它們通常被成功部署和使用。
總結上述，我的基本預測是，AI支持的生物學和醫學將使我們能夠在5-10年內壓縮人類生物學家將在下一個50-100年內取得的進步。我將這稱爲“壓縮的21世紀”：在開發出強大的AI之後，我們將在幾年內實現我們在整個21世紀將取得的所有生物學和醫學進步的想法。
儘管預測強大的AI在幾年內能做什麼仍然本質上是困難和投機的，但詢問“人類在接下來的100年裡不借助外力能做什麼？”有一些具體性。簡單地看看我們在20世紀取得的成就，或者從21世紀的前20年進行外推，或者問“10個CRISPR和50個CAR-T的”會給我們什麼，都提供了實際的、有根據的方式來估計，我們可能從強大的AI中期待的一般水平的進步。
下面我嘗試列出我們可能期待的東西。這不是基於任何嚴謹的方法，幾乎肯定會在細節上被證明是錯誤的，但它試圖傳達我們應該期待的一般水平的激進主義：
可靠的預防和治療幾乎所有自然傳染病。鑑於20世紀對抗傳染病的巨大進步，想象我們可以在壓縮的21世紀“完成工作”並不激進。mRNA疫苗和類似技術已經指向了“針對任何事物的疫苗”。傳染病是否完全從世界中根除（而不是隻是在某些地方）取決於貧困和不平等的問題，第3節將討論。
消除大多數癌症。過去幾十年來，癌症死亡率每年下降約2%；因此，我們正以人類科學當前的步伐走上在21世紀消除大多數癌症的軌道。一些亞型已經被大量治癒（例如，一些類型的白血病通過CAR-T療法），我對非常有針對性的藥物感到更加興奮，這些藥物可以在癌症初期針對癌症，阻止它生長。AI還將使治療方案能夠非常精細地適應癌症的個體化基因組——這些在今天可能是可能的，但在時間和人類專業知識方面都非常昂貴，AI應該使我們能夠擴展。減少95%或更多的死亡率和發病率似乎是可能的。話雖如此，癌症極其多樣和適應性，可能是這些疾病中最難完全根除的。一些罕見的、難以治療的惡性腫瘤可能會持續存在。
非常有效的預防和有效治療遺傳病。大大提高的胚胎篩查可能會使我們能夠預防大多數遺傳病，一些更安全、更可靠的CRISPR後代可能會治癒大多數現有人羣中的遺傳病。影響大部分細胞的全身性疾病可能是最後的頑固分子。
預防阿爾茨海默症。我們一直很難弄清楚阿爾茨海默病的原因是什麼（它與β-澱粉樣蛋白有關，但實際細節似乎非常複雜）。它似乎是可以用更好的測量工具解決的問題，這些工具隔離了生物學效應；因此，我對AI解決它持樂觀態度。有機會通過相對簡單的干預措施預防它，一旦我們真正瞭解發生了什麼。話雖如此，已經存在的阿爾茨海默病的損害可能很難逆轉。
改善大多數其他疾病的治療。這是一個包括糖尿病、肥胖、心臟病、自身免疫疾病等在內的其他疾病的“大雜燴”類別。這些疾病中的大多數似乎“比癌症和阿爾茨海默病更容易解決”，在許多情況下，它們已經在急劇下降。例如，心臟病死亡率已經下降了50%以上，簡單的干預措施，如GLP-1激動劑，已經對肥胖和糖尿病取得了巨大的進步。
生物學自由。在過去的70年裡，我們在避孕、生育管理、體重管理等方面取得了進展。但我認爲，AI加速的生物學將大大擴展可能的範圍：體重、外貌、生殖和其他生物過程將完全受到人們的控制。我們將在“生物學自由”的標題下引用這些，這個想法是，每個人都應該有權選擇他們想成爲什麼樣的人，以及以最吸引他們的方式生活。當然，關於全球平等獲取的問題；第3節將討論這些。
人類壽命翻倍。這可能看起來激進，但在20世紀，預期壽命幾乎增加了2倍（從大約40歲到大約75歲），所以“壓縮的21世紀”再次翻倍到150歲是“趨勢”。顯然，減慢實際衰老過程所需的干預措施將與上個世紀防止（主要是兒童）過早死於疾病所需的干預措施不同，但變化的幅度並不是前所未有的。具體來說，已經存在一些藥物，可以增加老鼠的最大壽命25-50%，副作用有限。一些動物（例如，某些類型的烏龜）已經活了200年，所以人類顯然沒有達到理論上的上限。至少，最需要的可能是可靠的、不可操縱的人類衰老生物標誌物，因爲這將允許在實驗和臨牀試驗上快速迭代。 一旦人類壽命達到150歲，我們可能能夠達到“逃逸速度”，購買足夠的時間，使今天活着的大多數人能夠活出他們想要的時間，儘管這在生物學上是否可能還遠遠沒有保證。
值得看看這個 列表，並反思如果所有這些都在7-12年後實現，世界將變得多麼不同（這將符合AI的積極時間表）。毫無疑問，這將是一個難以想象的人文主義勝利，一次性消除了困擾人類數千年的大多數災難。我的許多朋友和同事都有孩子，當這些孩子長大後，我希望任何提到疾病的事情對他們來說，就像對我們來說壞血病、天花或鼠疫一樣。那一代人還將從增加的生物學自由和自我表達中受益，並且幸運的話，也可以活出他們想要的時間。
很難高估這些變化對每個人來說有多令人驚訝，除了那些預期強大的AI的小社區。
例如，在美國，成千上萬的經濟學家和政策專家目前正在辯論如何保持社會保障和醫療保險的償付能力，更廣泛地討論如何降低醫療保健成本（這些成本主要由70歲以上的人消費，特別是那些患有絕症，如癌症的人）。如果所有這些都實現，這些計劃的情況可能會根本改善，因爲工作年齡與退休人口的比例將發生巨大變化。毫無疑問，這些挑戰將被其他挑戰所取代，例如如何確保廣泛獲取新技術，但值得反思即使生物學是唯一成功加速的領域，世界將發生多麼大的變化。
2. 神經科學和心靈
在上一節中，我專注於身體疾病和生物學，並沒有涵蓋神經科學或心理健康。但神經科學是生物學的一個子學科，心理健康與身體健康一樣重要。事實上，如果有什麼的話，心理健康比身體健康更直接地影響人類的幸福感。數億人由於成癮、抑鬱、精神分裂症、低功能自閉症、PTSD、精神病態或智力殘疾等問題，生活質量非常低。還有數十億人掙扎在通常可以被解釋爲這些嚴重臨牀疾病較輕微版本的日常問題中。並且像在一般生物學中一樣，可能有可能超越解決問題，提高人類體驗的基線質量。
我爲生物學制定的基本框架同樣適用於神經科學。該領域是由少數與測量或精確干預工具相關的發現推動的——在上面的列表中，光遺傳學是神經科學發現，最近CLARITY和擴展顯微鏡是同一方向的進步，此外，許多一般細胞生物學方法直接適用於神經科學。我認爲這些進步的速率將受到人工智能的類似加速，因此“100年的進步在5-10年內”的框架以同樣的方式適用於神經科學，原因與生物學相同。像在生物學中一樣，20世紀神經科學的進步是巨大的——例如，直到20世紀50年代我們甚至不瞭解神經元是如何或爲什麼發射的。因此，似乎合理的是，AI加速的神經科學將在幾年內取得快速進步。
我們應該在這個基本畫面中添加一件事，那就 是我們在過去幾年中從AI中學到的一些東西，可能會幫助推進神經科學——即使它繼續只由人類完成。
可解釋性是一個明顯的例子：儘管生物神經元在表面上與人工神經元以完全不同的方式運作（它們通過尖峰和尖峰率進行通信，因此有一個時間元素不在人工神經元中，以及許多與細胞生理學和神經遞質相關的細節大大修改了它們的操作），但“如何分佈式、訓練過的簡單單元網絡執行組合線性/非線性操作共同執行重要計算”的基本問題是一樣的，我強烈懷疑個體神經元通信的細節將在大多數關於計算和電路的有趣問題中被抽象掉。作爲這一點的一個例子，AI系統中的可解釋性研究人員最近在小鼠大腦中重新發現了一種計算機制。
在人工神經網絡上進行實驗比在真實網絡上進行實驗要容易得多（後者通常需要切割動物大腦），因此可解釋性可能會成爲一種提高我們對神經科學理解的工具。此外，強大的AI本身可能會比人類更好地開發和應用這個工具。
超越可解釋性，我們從AI中學到的關於智能系統如何被訓練的知識應該（儘管我不確定它是否已經開始）在神經科學中引起革命。當我在神經科學工作時，很多人專注於我現在會認爲是關於學習的錯誤問題，因爲還沒有出現規模假設/苦澀教訓的概念。一個簡單的目標函數加上大量數據，可以推動令人難以置信的複雜行爲的想法，使得理解目標函數和架構偏見變得更有趣，而不是理解新興計算的細節。
我近年來沒有密切關注這個領域，但我有一種模糊的感覺，計算神經科學家還沒有完全吸收這個教訓。我對規模假設的態度一直是“啊哈——這是對智能如何工作以及它如何輕易進化的解釋”，但我認爲這不是普通神經科學家的觀點，部分原因是規模假設作爲“智能的秘密”甚至在人工智能內部也沒有被完全接受。
我認爲神經科學家應該將這種基本見解與人類大腦的特殊性（生物物理限制、進化歷史、拓撲結構、運動和感覺輸入/輸出的細節）結合起來，試圖解決神經科學的關鍵難題。有些可能是，但我懷疑這還不夠，人工智能神經科學家將能夠更有效地利用這個角度來加速進步。
我預計AI將通過四個不同的途徑加速神經科學的進步，所有這些途徑都可以有望共同工作，以治療或預防大多數精神疾病，並改善功能：
傳統的分子生物學、化學和遺傳學。這基本上與第1節中的一般生物學相同，AI可能通過相同的機制加速它。有許多藥物可以調節神經遞質以改變大腦功能、影響警覺性或感知、改變情緒等，AI可以幫助我們發明更多。AI也可能加速對精神疾病遺傳基礎的研究。
精細的神經測量和干預。這是測量許多單個神經元或神經迴路正在做什麼的能力，並進行干預以改變它們的行爲。光遺傳學和技術神經探針是能夠同時進行測量和干預活體生物體的技術，一些非常先進的方法（例如分子磁帶以讀取大量單個神經元的發射模式）也已經提出並原則上似乎可能。
先進的計算神經科學。正如上文所述，現代AI的具體見解和整體觀念可能可以有效地應用於系統神經科學的問題，包括可能揭示覆雜疾病如精神病或情緒障礙的真實原因和動態。
行爲干預。我並沒有太多提到這一點，因爲重點是神經科學的生物學方面，但精神病學和心理學當然在20世紀開發了廣泛的一系列行爲干預措施；可以合理地假設AI也可以加速這些干預措施，無論是開發新方法還是幫助患者堅持現有方法。更廣泛地說，一個“AI教練”的想法，總是幫助你成爲最好的自己，研究你的互動並幫助你學會更有效，似乎非常有希望。
我猜這四個進步的途徑共同工作，將像對待身體疾病一樣，在接下來的100年內導致大多數精神疾病的治療或預防——因此可能在5-10年內合理完成。
具體來說，我猜測會發生什麼：
大多數精神疾病可能被治癒。我不是精神疾病的專家（我在神經科學上的時間花在構建用於研究小神經元羣體的探針上），但我的猜測是，像PTSD、抑鬱、精神分裂症、成癮等疾病可以通過上述四個方向的某種組合來理解和非常有效地治療。答案可能是“有些生化問題”（儘管可能非常複雜）和“神經網絡出了問題，在高層次上”。也就是說，它是一個系統神經科學問題——儘管這並不否認上述討論的行爲干預的影響。測量和干預工具，特別是在活體人類中，似乎很可能導致快速迭代和進步。
可能更難以治療的結構性狀況。有證據表明，精神病態與明顯的神經解剖學差異有關——精神變態者的某些大腦區域就是更小或發育不良。精神變態者也被認爲是從小就缺乏同情心；無論他們的大腦有什麼不同，可能一直都是這樣。同樣可能適用於某些智力殘疾，也許還有其他狀況。重塑大腦聽起來很難，但它也似乎是一個對智能有很高回報的任務。也許有辦法誘導成人大腦進入早期或更可塑的狀態，使其可以被重塑。我對這有多大可能非常不確定，但我的直覺是對AI在這方面可以發明的東西持樂觀態度。
通過遺傳學有效預防精神疾病似乎是可能的。大 多數精神疾病部分是遺傳的，全基因組關聯研究開始在識別相關因素方面取得進展，這些因素通常數量衆多。通過胚胎篩查預防這些疾病中的大多數可能是可能的，與身體疾病的故事類似。一個區別是精神疾病更可能是多基因的（許多基因貢獻），因此由於複雜性，有更大的風險在不知情的情況下選擇反對與疾病相關的積極特徵。奇怪的是，然而，近年來GWAS研究表明，這些相關性可能被高估了。無論如何，人工智能加速的神經科學可能幫助我們解決這些問題。當然，對複雜特徵進行胚胎篩查引發了一些社會問題，並將引起爭議，儘管我猜大多數人會支持篩查嚴重或致殘的精神疾病。
我們不認爲是臨牀疾病的日常問題也將得到解決。我們大多數人都有日常心理問題，通常不被認爲是臨牀疾病的水平。有些人容易發怒，其他人難以集中注意力或經常睏倦，有些人害怕或焦慮，或對變化反應不好。今天，已經存在幫助例如警覺性或專注力的藥物（咖啡因、莫達非尼、利他林），但像許多其他以前的領域一樣，更有可能的是可能的。可能存在許多尚未發現的這類藥物，也可能存在全新的干預方式，如針對性光刺激（見上文的光遺傳學）或磁場。鑑於我們在20世紀開發了多少種調節認知功能和情緒狀態的藥物，我對“壓縮的21世紀”非常樂觀，每個人都可以使他們的大腦表現得更好，擁有更充實的日常體驗。
人類基線體驗可以變得更好。再進一步，許多人都經歷過啓示、創造性靈感、同情心、成就感、超越、愛、美或冥想和平的非凡時刻。這些體驗的特點和頻率因人而異，在同一人的不同時間也有所不同，有時也可以通過各種藥物觸發（儘管通常有副作用）。所有這些都表明“可能體驗的空間”是非常廣泛的，更大的人的生活可能由這些非凡的時刻組成。它也可能改善各種認知功能。這可能是“生物學自由”或“延長壽命”的神經科學版本。
經常在科幻小說中出現的一個話題，但我在這裡故意沒有討論的是“意識上傳”，捕捉人腦的模式和動態並將它們實例化爲軟件的想法。這個話題本身就可以成爲一篇論文的主題，但簡而言之，儘管我認爲原則上，意識上傳無疑是可能的，但在實踐中它面臨着重大的技術和社會挑戰，即使有強大的AI，也可能把它放在我們討論的5-10年時間窗口之外。
總結來說，AI加速的神經科學可能會極大地改善治療，甚至治癒大多數精神疾病，並極大地擴展“認知和心理自由”以及人類的認知和情感能力。
它將和上一節中描述的身體健康改善一樣激進。也許世界在外表上不會明顯不同，但人類所經歷的世界將是一個更好、更人道的地方，也是一個爲自我實現提供更多機會的地方。我還懷疑改善的心理健康將減少許多其他社會問題，包括那些看起來是政治或經濟的問題。
3. 經濟發展與貧困
前面的兩節討論了開發新技術以治癒疾病和改善人類生活質量。然而，從人道主義的角度來看，一個明顯的問題出現了：“每個人都能獲得這些技術嗎？”
開發一種疾病的治療方法是一回事，將這種疾病從世界上根除是另一回事。
更廣泛地說，許多現有的健康干預措施尚未在世界各地得到應用，同樣的情況也適用於（非健康）技術改進。換句話說，世界上許多地區的生活水平仍然極度貧困：撒哈拉以南非洲的人均GDP約爲2000美元，而美國約爲75000美元。
如果AI進一步增加了發達國家的經濟增長和生活質量，而對發展中國家幫助甚少，我們就應該將其視爲一個可怕的道德失敗，以及對前兩節中真正的人道主義勝利的玷污。理想情況下，強大的AI應該幫助發展中國家迎頭趕上發達國家，即使它徹底改變了後者。
我對AI能夠解決不平等和經濟增長問題的信心，不如我對它能夠發明基礎技術的信心那麼高，因爲技術具有明顯的高智能回報（包括繞過複雜性和缺乏數據的能力），而經濟涉及很多人類約束，以及大量的內在複雜性。我不認爲政府（或應該）將他們的經濟政策交給這樣一個實體，即使它能夠做到。還有如何說服人們接受有效但他們可能懷疑的治療方法等問題。
然而，我看到有充分的理由保持樂觀。疾病已經被根除，許多國家已經從貧窮變爲富裕，顯然，這些任務中涉及的決策表現出高智能回報（儘管有人類約束和複雜性）。因此，AI可能會比目前的做得更好。也許還有一些針對性的干預措施可以繞過人類約束，AI可以專注於這些。更重要的是，我們必須嘗試。AI公司和發達國家的政策制定者都需要儘自己的一份力量，確保發展中國家不會被遺漏；道德責任太大了。所以在這一部分，我將繼續提出樂觀的案例，但請記住，成功並不是有保證的，取決於我們大家的共同努力。
以下是我對強大AI開發後世界5-10年內可能發生的事情的一些猜測：
健康干預措施的擴散。
也許我最樂觀的狀態是，將健康干預措施分發到世界各地。
疾病實際上是通過自上而下的行動被根除的：天花在20世紀70年代被完全消滅，脊髓灰質炎和幾內亞線蟲病幾乎被根除，每年少於100例。數學複雜的流行病學建模在疾病根除運動中發揮了積極作用，看起來非常有可能，比人類更聰明的AI系統能夠比人類更好地完成這項工作。分發的物流也可能被大大優化。
我從作爲GiveWell的早期捐贈者那裡學到的是，一些健康慈善機構比其他的更有效；希望人工智能加速的努力會更有效。此外，一些生物進步實際上使分發的物流變得更容易：例如，瘧疾很難根除，因爲它需要每次疾病合約時都進行治療；只需要接種一次的疫苗使物流變得更簡單（事實上，目前正在開發針對瘧疾的疫苗）。
更簡單的分發機制是可能的：例如，通過針對它們的動物載體來根除一些疾病，例如釋放感染了一種阻止它們攜帶疾病的細菌的蚊子（然後感染所有其他蚊子）或者簡單地使用基因驅動器消滅蚊子。這需要一個或幾個集中行動，而不是必須單獨治療數百萬人的協調運動。
總的來說，我認爲5-10年是一個合理的時間表，可以讓AI驅動的健康益處的很大一部分（也許50%）傳播到世界上最貧窮的國家。一個好目標可能是，發展中國家在強大AI之後的5-10年內至少比今天發達國家更健康，即使它繼續落後於發達國家。實現這一點當然需要在全球衛生、慈善事業、政治倡導等方面付出巨大努力，人工智能開發者和政策制定者都應該幫助。
經濟增長。
發展中國家能否在健康方面迎頭趕上發達國家，並且在經濟上全面趕上？
有先例：在20世紀最後幾十年，幾個東亞經濟體實現了持續的約10%的年均實際GDP增長率，使它們趕上了發達國家。人類經濟規劃者通過拉動幾個關鍵槓桿（如出口導向型增長的產業政策，以及抵制依賴自然資源財富的誘惑）實現了這一成功，而不是直接控制整個經濟；“AI財政部長和中央銀行家”有可能複製甚至超過這一10%的成就。
一個重要的問題是，如何讓發展中國家政府在尊重自決原則的同時採納它們——一些可能對此很積極，但其他可能持懷疑態度。
從樂觀的方面看，前一點中的許多健康干預措施可能會自然增加經濟增長：根除艾滋病/瘧疾/寄生線蟲將對生產力產生變革性影響，更不用說一些神經科學干預措施（如改善情緒和專注力），將在發達國家和發展中國家都帶來經濟利益。最後，非健康AI加速的技術（如能源技術、運輸無人機、改進的建築材料、更好的物流和分發等）可能會自然地滲透到世界各地；例如，即使在撒哈拉以南非洲，手機也通過市場機制迅速普及，而不需要慈善努力。在更負面的方面，儘管AI和自動化有許多潛在的好處，但它們也對經濟發展構成了挑戰，特別是對於那些尚未工業化的國家。找到確保這些國家在自動化時代仍然能夠發展和改善其經濟的方法，是經濟學家和政策制定者需要解決的重要挑戰。
總的來說，一個夢想場景——也許是一個目標——將是發展中國家的年均GDP增長率爲20%，其中10%來自人工智能支持的經濟決策，另外10%來自人工智能加速技術的自然傳播，包括但不限於健康。如果實現，這將在5-10年內將撒哈拉以南非洲帶到中國當前的人均GDP水平，同時將許多其他發展中國家提高到高於當前美國GDP的水平。再次強調，這是一個夢想場景，不是默認會發生的事情：這是我們所有人必須共同努力使更有可能的事情。
食品安全。像更好的肥料和農藥、更多自動化和更有效的土地利用等作物技術的進步，在20世紀大幅度提高了作物產量，使數百萬人免於飢餓。遺傳工程目前正在進一步改善許多作物。找到更多這樣做的方法——以及使農業供應鏈更加高效——可能會給我們帶來AI驅動的第二次綠色革命，幫助縮小發展中國家和發達國家之間的差距。
緩解氣候變化。氣候變化將在發展中國家感受到更強烈的影響，阻礙其發展。我們可以預期，AI將帶來改善減緩或預防氣候變化的技術，從大氣碳清除和清潔能源技術到減少我們對碳密集型工廠化養殖依賴的實驗室養殖肉類。當然，正如上文討論的，技術並不是限制氣候變化進展的唯一因素——像文章中討論的所有其他問題一樣，人類社會因素也很重要。但有充分的理由認爲，AI增強的研究將給我們提供使減緩氣候變化變得更少成本和破壞性的手段，使許多反對意見變得無關緊要，釋放發展中國家進行更多經濟發展的潛力。
國家內部的不平等。我主要討論了不平等作爲全球現象（我認爲這是其最重要的表現），但當然，不平等也存在於國家內部。隨着先進的健康干預措施，特別是大幅度增加壽命或認知增強藥物的出現，肯定會有關於這些技術“只針對富人”的擔憂。我對發達國家內部的不平等特別樂觀，原因有兩個。首先，市場在發達國家運作得更好，市場通常擅長隨着時間的推移降低高價值技術的成本。其次，發達國家的政府機構對民衆的響應性更強，並且擁有更大的行政能力來執行普遍獲取計劃——我預計民衆會要求獲取如此根本性改善生活質量的技術。當然，這並不是說這樣的需求就會成功——這裡又是我們需要集體盡我們所能確保一個公平的社會的另一個地方。在財富不平等（與獲取救命和增強生命的技術的不平等相比）方面存在一個單獨的問題，這個問題似乎更難解決，我在第5節中討論。
選擇退出的問題。在發達國家和發展中國家都存在的一個擔憂是人們選擇退出AI帶來的利益（類似於反疫苗運動或更普遍的盧德運動）。可能會出現負面的反饋循環，例如，最不能做出良好決策的人選擇退出那些提高他們決策能力的技術開發，導致差距不斷擴大，甚至創造出一個反烏托邦的下層羣體。這將再次給AI的積極進步帶來道德上的污點。這是一個難以解決的問題，因爲我認爲在倫理上不應該強迫人們，但我們至少可以嘗試提高人們的科學理解——也許AI本身可以幫助我們解決這個問題。一個令人鼓舞的跡象是，歷史上反技術運動往往雷聲大雨點小：反對現代技術很受歡迎，但大多數人最終會選擇它，至少當它是個人選擇時。個人傾向於採納大多數健康和消費技術，而真正受到阻礙的技術，如核能，往往是集體政治決策。
總的來說，我對迅速將AI的生物學進步帶給發展中國家的人們持樂觀態度。
我持謹慎樂觀態度，但並不自信，認爲AI也可以實現前所未有的經濟增長速度，使發展中國家至少超越發達國家當前的水平。我擔心發達國家和發展中國家都存在“選擇退出”的問題，但懷疑隨着時間的推移，這些問題將會逐漸消失，AI可以幫助加速這一過程。世界不會完美，落後的人不會完全趕上，至少在最初的幾年內不會。但通過我們的努力，我們可以朝着正確的方向迅速前進。如果我們這樣做，我們可以爲每個人在地球上應得的尊嚴和平等的承諾做出至少一部分貢獻。
4. 社會治理
假設前三個部分的一切都進展順利：疾病、貧困和不平等顯著減少，人類體驗的基線大大提高。這並不意味着所有導致人類痛苦的主要原因都得到了解決。人類仍然是對彼此的威脅。
一些合理的理論表明，互聯網技術實際上可能有利於威權主義，而不是最初認爲的去中心化。
不幸的是，我沒有充分的理由相信AI會偏好性或結構性地推進社會治理，就像我認爲它將結構性地推進人類健康和減輕貧困一樣。人類衝突是對抗性的，AI原則上可以幫助“好人”和“壞人”。如果有什麼不同的話，一些結構性因素似乎令人擔憂：AI可能會帶來更好的宣傳和監控，這兩者都是社會治理工具包中的主要工具。
我認爲問題有兩個部分：國際衝突和國家內部社會治理。
在國際方面，當強大的AI被創造出來時，什麼樣的國家去 充分利用或濫用將成爲關鍵。社會治理上，比如，AI能否通過使決策和流程更加公正來改善我們的法律和司法系統？今天人們主要擔心在法律或司法背景下，AI系統將成爲歧視的原因，這些擔憂是重要的，需要加以防範。一個真正成熟和成功的AI實現有可能減少偏見，對每個人都更公平。
幾個世紀以來，法律系統面臨着一個困境，即法律旨在是公正的，但本質上是主觀的，因此必須由有偏見的人類來解釋。試圖使法律完全機械化沒有奏效，因爲現實世界是混亂的，不能總是用數學公式來描述。相反，法律系統依賴於臭名昭著的不精確標準，如“殘忍和不尋常的懲罰”或“完全沒有社會重要性”，然後人類以一種表現出偏見、偏袒或任意性的方式進行解釋。加密貨幣中的“智能合約”並沒有徹底改變法律，因爲普通代碼不足以裁決許多有趣的事情。但AI可能足夠聰明：它是第一個能夠以可重複和機械的方式進行廣泛、模糊判斷的技術。
我不是建議我們用AI系統取代法官，但公正性與理解和處理混亂的現實世界情況的能力相結合，感覺應該對法律和正義有一些嚴肅的積極應用。至少，這樣的系統可以作爲人類決策的輔助工具。在任何這樣的系統中，透明度都很重要，成熟的AI科學可能提供它：可以對這些系統的培訓過程進行廣泛研究，並使用先進的可解釋性技術查看最終模型內部並評估其是否有隱藏的偏見，這與人類是不可能的。這樣的AI工具還可以用來監測司法或執法背景下對基本權益的侵犯，使法律更具自我執行性。
還有一個明顯的機會，即使用AI幫助提供公共服務，例如健康福利或社會服務——原則上對每個人都是可用的，但實際上往往嚴重缺乏，並且在某些地方比其他一些地方更糟。這包括健康服務、車輛管理局、稅收、社會保障、建築法規執行等。有一個非常周到和了解的AI，其工作是讓你以你能理解的方式獲得政府法律上賦予你的一切——並且也幫助你遵守通常令人困惑的政府規則——將是一件大事。
所有這些都是一些模糊的想法，正如我在本節開頭所說的，我對它們的可行性並不像我對生物學、神經科學和扶貧進展那樣有信心。它們可能是不切實際的烏托邦。但重要的是要有一個雄心勃勃的願景，願意大膽夢想並嘗試事物。
5. 工作與意義
即使前面的四個部分都進展順利，至少還有一個重要問題仍然存在。“我們生活在這樣一個技術先進的世界，以及一個公平和體面的世界，這很好，”有人可能會反對，“但是隨着AI做所有事情，人類將如何擁有意義？順便說一下，在經濟上他們將如何生存？”
我認爲這個問題比其他問題更難。我的意思是，它比預測宏觀經濟組織方式的問題更模糊和難以預測，因爲這些問題往往只有在時間和分散的方式中才能解決。例如，歷史上的狩獵採集社會可能想象沒有狩獵和各種與狩獵相關的宗教儀式，生活就沒有意義，他們可能想象我們這個飲食充足技術先進的社會缺乏目的。他們也可能不理解我們的經濟如何爲每個人提供服務，或者人們在機械化社會中可以有效地提供什麼功能。
然而，值得至少說幾句話，同時要記住這一節的簡短，絕不是說我不認真對待這些問題——相反，它是缺乏明確答案的標誌。
關於意義的問題，我認爲很可能是一個錯誤的信念，即如果你承擔的任務沒有意義，僅僅因爲AI可以比你做得更好。大多數人在任何事情上都不是世界上最好的，這似乎並沒有特別困擾他們。
當然，今天他們仍然可以通過比較優勢做出貢獻，並且可能從他們創造的經濟價值中獲得意義，但人們也非常享受不產生經濟價值的活動。我花很多時間玩視頻遊戲、游泳、在外面走動和與朋友交談，所有這些都不產生經濟價值。我可能花一天時間試圖在視頻遊戲中變得更好，或者在山上騎自行車更快，而且真的有人比這些事情做得更好，對我並不重要。
無論如何，我認爲意義主要來自人際關係和聯繫，而不是來自經濟勞動。
人們確實想要一種成就感，甚至是一種競爭感，在AI之後的世界裡，完全可以花幾年時間嘗試一些非常困難的任務，有一個複雜的策略，類似於人們今天開始研究項目、試圖成爲好萊塢演員或創立公司時所做的事情。（a）一個人工智能在某個地方原則上可以做這個任務更好，以及（b）這個任務不再是全球經濟中一個經濟回報的元素，對我來說似乎並不重要。
實際上，經濟部分對我來說似乎比意義部分更困難。在這一部分中，我所說的“經濟”是指，大多數或所有人類可能無法在足夠先進的AI驅動的經濟中，做出有意義貢獻的潛在問題。這是一個比不平等的單獨問題更宏觀的問題，特別是不平等獲取新技術，我在第3節中討論過。
首先，短期內，我同意比較優勢將繼續使人類保持相關性並實際上增加他們的生產力的論點，甚至在某些方面平衡了人類之間的競爭環境。只要AI只在某個工作的90%方面比人類更好，剩下的10%就會導致人類變得高度槓桿化，增加報酬，實際上創造了許多新的人類工作，補充和放大AI擅長的事情，使“10%”擴展，繼續僱傭幾乎所有人。
事實上，即使AI可以比人類更好地完成100%的工作，但如果它在某些任務上仍然效率低下或昂貴，或者如果人類和AI的資源輸入顯著不同，那麼比較優勢的邏輯繼續適用。人類可能在相當長的時間內保持相對（甚至絕對）優勢的一個領域是物理世界。
因此，我認爲即使在我們達到“數據中心的天才國家”之後，人類經濟可能仍然有意義。
然而，我確實認爲從長遠來看，AI將變得如此廣泛有效和便宜，以至於這將不再適用。在這一點上，我們目前的經濟設置將不再有意義，將需要更廣泛的社會對話，討論經濟應該如何組織。
雖然這聽起來可能很瘋狂，但事實是，文明在過去成功地經歷了重大的經濟轉變：從狩獵採集到農業，從農業到封建主義，從封建主義到工業主義。我懷疑需要一些新的、更奇怪的東西，這是沒有人今天做得很好的願景。它可以像爲每個人提供大型普遍基本收入，儘管我懷疑這只是解決方案的一小部分。它可以是AI系統的資本主義經濟，然後根據AI系統認爲合理獎勵人類的一些次要經濟（最終基於人類價值觀的判斷）向人類分配資源（大量的資源，因爲整體經濟蛋糕將是巨大的）。也許經濟運行在Whuffie點上。或者也許人類最終在某些預料之外的方式上在經濟上仍然有價值，這通常不是由普通經濟模型所預期的。所有這些解決方案都有大量可能的問題，而且不知道它們是否合理，除非進行大量的迭代和實驗。像其他一些挑戰一樣，我們可能不得不爲好的結果而戰：剝削性或反烏托邦的方向也是可能的，必須被阻止。關於這些問題，我可以寫得更多，希望將來能這樣做。
總結
通過上述不同的主題，我試圖提出一個世界願景，如果一切順利，AI可以實現，並且比今天的世界好得多。我不知道這個世界是否現實，即使它是，它也不會在沒有許多勇敢和敬業的人的大量努力和鬥爭的情況下實現。每個人（包括AI公司！）都需要儘自己的一份力量，既要預防風險，也要充分實現利益。
但這是一個值得爲之奮鬥的世界。如果所有這些真的在5到10年內發生——大多數疾病被擊敗，生物和認知自由的增長，數十億人擺脫貧困，共享新技術——我想所有目睹它的人都會被它對他們的影響所感動。我不是指從所有新技術中個人受益的體驗，儘管那當然會是驚人的。我的意思是親眼目睹一套長期堅持的理想在所有人面前同時實現的體驗。我想很多人都會被它感動得熱淚盈眶。
在寫這篇文章的過程中，我注意到了一個有趣的緊張關係。一方面，這裡提出的願景極其激進：它不是幾乎任何人預計在未來十年內會發生的事情，並且可能會讓許多人覺得是一個荒謬的幻想。有些人甚至可能認爲它是不可取的；它體現了不是每個人都會同意的價值觀和政治選擇。但與此同時，有些事情是顯而易見的——有些過度決定的——好像許多不同的嘗試去想象一個美好的世界最終都不可避免地導致這裡。
在Iain M. Banks的《遊戲玩家》中，主人公——一個名爲文化的社會的成員，其基礎與我在這裡提出的價值觀相似——前往一個壓抑的、軍國主義的帝國，其中領導權是由競爭一個複雜的戰爭遊戲來決定的。然而，遊戲足夠複雜，以至於玩家在其中的戰略傾向於反映他們自己的政治和哲學觀點。主人公設法在遊戲中擊敗了皇帝，表明他的價值觀（文化的價值觀）即使在由基於無情競爭和適者生存的社會設計的比賽中也代表了一種成功的策略。Scott Alexander的一個著名帖子有同樣的論點——競爭是自我毀滅的，並且傾向於導致一個基於同情和合作的社會。“道德宇宙的弧線”是另一個類似的概念。
我認爲文化的價值觀是一種成功的策略，因爲它們是一百萬個具有明確道德力量的小決策的總和，這些決策傾向於將每個人拉到同一邊。公平、合作、好奇心和自主的基本人類直覺是很難爭辯的，並且以一種我們的更具破壞性的衝動往往不具有的累積方式。
人們很容易認爲，不應該讓孩子們死於我們可以預防的疾病，從那裡開始，很容易認爲每個孩子都應該平等地享有這項權利。從那裡開始，不難認爲我們應該團結起來，應用我們的智慧來實現這一結果。很少有人會反對應該懲罰那些不必要地攻擊或傷害他人的人，從那裡開始，懲罰應該是一致的，並且系統地適用於所有人的想法並不遙遠。同樣，人們應該有自主權和對自己生活和選擇的責任，這是類似的。這些簡單的直覺，如果被推向它們的邏輯結論，最終會導致法治和啓蒙價值觀。如果不是必然的，那麼至少作爲一種統計趨勢，這是人類已經走向的方向。AI只是提供了一個讓我們更快到達那裡的機會——使邏輯更加鮮明，目的地更加清晰。
然而，這是一個超越之美的事物。我們有機會在實現它中扮演一個小角色。
掃碼邀請進羣，我們帶你一起來玩轉ChatGPT、GPT-4、文心一言、通義千問、訊飛星火等AI大模型，順便學一些AI搞錢技能。
往期文章回顧