AI全球治理的機遇與挑戰
來源：環球時報
【環球時報報道 記者 馬俊】人工智能（AI）飛速發展帶來的影響，已遠遠超出常規技術領域，對人類社會和全球政治格局都帶來了巨大沖擊。該如何看待AI時代的機遇與挑戰？環球時報研究院聯合科普中國智庫，日前舉辦“環球前沿科技論壇·人工智能”專題研討會。本次研討會邀請國內多領域權威專家以“賦能全球南方，中國人工智能的經驗與機遇”爲主題對AI技術發展面臨的機遇與挑戰，以及如何賦能全球南方國家的發展等議題進行了深入討論。
大模型潮流帶來的“3+2”挑戰
目前談到AI繞不開大模型，談到大模型則繞不開OpenAI引領的技術突破。在全球火爆的大模型潮流面前，又有哪些值得注意的挑戰呢？
中國國家創新與發展戰略研究會副會長、中國科學院大學教授呂本富表示，OpenAI引領的大模型潮流帶來的風險是“3+2”，即3個內部性挑戰、兩個外部性挑戰。其中內部性挑戰首先是大模型可能加大了社會偏見。很多研究都發現，由於訓練材料的選擇不當，AI反而加深了對少數族裔的種族歧視。其次是所謂的機器幻覺，也就是AI“一本正經地瞎說”。第三個是更重要的本質問題：未來AI水平超過人類怎麼辦？這就是所謂“超級對齊”問題。其中第三個挑戰是公衆最害怕的，因爲各種科幻電影早就有過預警：在AI超過人類後，可能存在人類變成AI附屬品的風險。
除了三個內部性挑戰以外，AI還有兩個外部性挑戰，即產生的社會影響。首先是AI可能加劇了貧困和就業壓力。研究顯示，AI技術是有史以來第一次出現技術進步產生的崗位少於消失崗位的情況。其次是所謂“僞造問題”，如今AI技術已被用於僞造文本、僞造圖像以及更危險的僞造場景，它們給社會秩序帶來很大挑戰，未來對於AI造假的識別和治理將耗費很大人力物力。
中國科學院計算技術研究所研究員張雲泉認爲，大模型對生產力帶來革命性變化，和歷次的技術革命不一樣。“以往的技術革命只是換掉了人的工具，例如把過去的駕馬車換成了現在的開汽車或者開飛機，而大模型帶來的技術革命是把人換掉了，這是最可怕的。”張雲泉還表示，AI技術革命帶來的直接結果之一是富人更加富了，只要機器、電力和算力就可以開展生產、掙錢，會讓財富進一步集中在富人手裡，因此如何對於AI技術進步帶來的財富分配問題進行調整非常重要。此外，AI技術進步還可能導致產業人口紅利價值的消失，發達國家可能不需要用全球南方國家的勞動力來降低生產成本，用AI驅動的機器生產可能更便宜，生產效率更高，發達國家和發展中國家之間的產業轉移也將減少。
北京郵電大學人機交互與認知工程實驗室主任劉偉表示，當前大模型帶來的技術挑戰之一是機器幻覺，它本質上是源於神經網絡的兩個函數，從原理上註定機器幻覺的問題無法消除。“我反對只告訴公衆大模型多麼厲害，不說大模型的缺點是什麼、存在的危險是什麼。五角大樓就三令五申地強調，將大模型用在軍事領域需要進行嚴格審查，他們知道其中的危險和缺點，可能會造成不可挽回的損失。”
中國電信首席科學家畢奇以自動駕駛爲例說，現在大模型最關鍵的技術是基於統計概率，原理上是針對統計的大概率事件做出判斷。但無論是開飛機還是開汽車時，都有可能遭遇小概率事件，這就導致基於大模式驅動的自動駕駛技術遇到小概率事件時可能會出現問題，這個問題怎麼解決現在還需要大量探索，如果不周全，可能會對自動駕駛技術的未來應用產生比較大的影響。
AI很可能導致空前的數字鴻溝
目前各界都承認AI技術對於提高社會生產力的革命性推動作用，但當前大數據驅動的AI技術存在技術要求高、整體投入大的特徵，很可能成爲大多數國家都跨不過去的數字鴻溝。
清華大學國際關係學系教授、中美關係研究中心主任陳琪表示，“在工業革命競爭時代確實存在特殊條件下的後發優勢少數案例，即先發國家進行技術和產業探索實踐，後發國家借鑑先發國家的成功經驗，後發國家甚至可直接抄作業而不需要付出巨大的探索成本，因而具有了某種後發優勢，少走冤枉路。但在知識、資本和技術密集的數字經濟時代，尤其是具有顛覆性創新的AI技術出現後，我覺得可能會出現當今世界絕大多數國家都無法跨過去的數字鴻溝，即憑藉AI的技術壟斷來獲得經濟發展的資源壟斷性攫取，歷史性地鎖定發展不均衡的局面，後發國家面臨被收割治理主權和喪失未來發展動能的巨大風險。”在AI領域，這種隱然風險和深刻擔憂不單單適用於西方對全球南方的壓榨，美國的歐洲盟友以及澳大利亞、新西蘭、日本幾乎都存在類似困境。“歐洲持續出臺AI治理的法律法規，其實也有保護自身不被美國收割的政策考慮。”
一名與會專家表示，對於很多全球南方國家來說，想要發展AI技術的基本條件都沒有。例如非洲國家近一半都沒有本國的數據中心，相關數據要存在國外。他表示，當發展大數據驅動的AI技術時，如果連大數據都不掌握在自己國家手裡，而是存放在別國領土，“其實就成爲數據意義上的殖民地”。
北京師範大學法學院博士生導師、中國互聯網協會研究中心副主任吳沈括認爲，科技巨頭和富裕國家在AI領域的壟斷局面，“某種意義上基本已經形成了，而且很難在整體上扭轉”。他表示，客觀地說，整個當代AI技術在理念構想和供應鏈產業鏈層面，美國依然具有突出的優勢。此外，從業者很清楚，現在AI技術發展到現在的態勢，跟全球開源社區環境有很大的關係。“如果美國突然加大對於開源環境的干預力度，對其他國家會帶來很大的衝擊，這是一個需要及早研判的重大問題。”
不過與會專家提到，AI被集中掌握在部分發達國家手裡也存在特殊的風險。例如某個國家或組織無法研發足夠先進的算法，但可以通過對訓練數據“投毒”，起到破壞AI的效果。因此當前AI發展的不對稱局面也是風險的來源之一，可能在極端情況下引起進一步的不穩定，這是值得關注的問題。
呂本富表示，AI技術的發展的確帶來了前所未有的安全問題。一個國家以前有地理邊界，現在還有思想邊界。“AI大模型把國家的思想邊界打穿了。原來不同的文明會有各自的神明，但現在不同國家和地區的民衆向大模型提問時，回答的數據來源都掌握在同樣的機構手裡。”此外AI技術的發展還可能突破國家的能力邊界。AI控制的機器人能在真實的物理環境下執行各種任務，但如果AI被控制在少數西方國家手裡，那麼在未來需要時，可能會出現利用AI遠程控制他國汽車實施有組織暴力衝撞等行動。因此在當代AI技術面前，一個國家需要同時守住地理邊界、思想邊界和能力邊界這三個邊界，才能真正確保自身安全，但能做到這幾點的國家太少了。
應對AI全新挑戰成重大課題
張雲泉表示，從趨勢上看，當代AI技術存在主權屬性，並不是無國界的，“雖然看着美國提供開源環境，其他國家可以自由訪問，但是未來一旦實現完全壟斷之後，還有沒有可能給你公平的開放環境？有沒有可能利用其優勢對你產生不好的影響，包括讓你對美國的AI技術產生依賴性後，影響你整個社會的價值觀、文化、歷史、輿情、科技發展？”他認爲，無論是中東黎巴嫩的尋呼機爆炸事件，還是最近中國網絡空間安全協會點名英特爾公司CPU存在的漏洞問題，都表明這樣的擔憂並非杞人憂天。
因此張雲泉提出，中國有必要在發展AI時推動建設“主權級大模型”，它是一個國家AI水平的最高點、基礎大模型的基礎，也可以被形容爲“根模型”。“主權級大模型”將深刻影響一個國家的科技競爭力，涉及軍事、經濟、政治等多方面能力。因此相關技術的全鏈條，包括大數據、技術人員、運營等要素需要全部實現國產可控。“這個模型是國家的重大基礎設施，因爲消耗的電力非常龐大，需要放到能源富集的地方。”他還建議說，在“主權級大模型”建設完成後，中國可以向國外提供相關服務。“可以爲發展中國家或者沒有能力研製本國主權大模型的國家和地區提供定製化服務，保證他們的安全，這也是中國可以爲全球南方做的貢獻。”
畢奇表示，美國在發展AI時，試圖藉助禁止出口高性能芯片等限制算力的方法，保持其在這個方向的優勢，這是一個零和遊戲的思維。其實兩個國家在AI的產業鏈方面，有極強的互補關係和很大的共贏空間。“如果中國只是被動地趕緊去發展國產算力，我覺得從《孫子兵法》的商業策略角度來講，是一個不太好的方法，因爲不需要在別人強的地方去硬拼，而是可以選擇其他自己很有優勢的互補領域，進行突破。現在在AI產業鏈上，有美國強的地方，也有中國強並互補的地方，爲什麼不繼續強化中國在這方面領先的優勢，最後雙方各取所長，互補共贏，通過談判來實現各自的利益最大化呢？”
劉偉介紹說，當前在AI研究領域分了多個級別，第一級是簡單交互，現在已經實現了一定程度上的簡單人機交互；第二級是推理，底層邏輯是基於數學和物理知識的推理。但現在用於AI領域的邏輯推理系統並不完備，甚至整個數學體系仍需要不斷繼續完善，同時對於物理學的認識也不完備。在這兩個領域的知識都不完備的情況下，AI通過統計概率和一定的數學規則，得出的推理過程和人類的推理非常不一樣。因爲人類的推理除了數理、物理還有心理、倫理、法理、管理、哲理等，所以現在AI的推理還是非常簡化的過程，從這個角度看，AI技術還有很大的改進空間。
多名與會專家也提到，AI的機遇、風險和挑戰本質上是全球性的，加強國際合作具有重要意義。中方主張在聯合國框架內加強AI規則治理，反對利用AI技術優勢傳播虛假信息，干涉他國內政，危害他國主權，惡意阻撓他國技術發展。陳琪表示，AI技術實力的差距帶來了全球南方國家治理話語權不足的問題。近年來七國集團、二十國集團、全球AI合作伙伴關係、經濟合作與發展組織達成了多個AI治理的文本，但其中明顯缺少全球南方的聲音。2023年10月在第三屆“一帶一路”國際合作高峰論壇開幕式上，中方宣佈《全球人工智能治理倡議》，中方提出的系列務實倡議和舉措旨在幫助全球南方國家提高競爭力和話語權，反對AI治理的小圈子和意識形態偏見，促進人工智能更好賦能可持續發展和增進全人類共同福祉。