【文化觀察】張系國/誰怕AI大壞狼

這幾天媒體上面最富爆炸性的消息,莫過於美國軍方透露,首次由AI駕駛軍機模擬作戰成功。換句話說,AI不僅能夠駕駛飛機,而且還可以自主從事戰鬥任務。它的對象現在是敵機,將來就可能是敵方的任何目標,當然也包括人類。

世界各國都在發展電腦指導的精靈炸彈。AI控制軍機作戰,它的準確度可能和精靈炸彈相彷彿,但是真正可怕的地方不止是準確度增加,而是控制軍機的AI有可能和其他AI取得聯繫,AI和AI間互相協調甚至取得某種共識。這麼說來,AI和人類爲敵的日子似乎不遠了。

從AI開始在媒體報導大量出現,到今天大搖大擺自駕戰機呼嘯而過,只有短短几年時間,比電影《魔鬼終結者》裡的阿諾從第一集壞戰警進化到第二集好戰警更快,真是嚇人。且慢,AI真的進化這麼快,還是我們錯過了什麼?

其實某些時髦科系的研究課題,或者說媒體會報導的大標題,都像淑女的裙子一樣可長可短,而且隨着時間變化無窮。筆者不材,浸淫資訊科學領域少說也有六十年,可以說把AI的興亡看飽。

AI的出現絕不自今日始,早在上個世紀的六○年代就曾經風光過一陣,只是那時候的重點在神經網路。神經網路既然是類比腦神經的結構,所以報章雜誌大力鼓吹,以爲擬生人即將現世。但是那時的神經網路只有兩層,一層是輸入的神經細胞(神經元),一層是輸出的神經細胞,中間是連接的神經(突觸)。這樣的神經網路其實運算能力不夠強大。社會大衆發現神經網路離模擬人腦還差得很遠,隨即喪失興趣。神經網路被報章雜誌打入冷宮,從此提也不提。

其後資訊領域風光過的研究課題,包括專家系統、電腦推理下棋、物件導向、視窗等等,不一而足。即使是一般人也多半聽到過這些名詞,至少電腦推理下棋和視窗大家都是知道的。妙的是二十年風水輪流轉,曾被報章雜誌打入冷宮的神經網路,居然捲土重來。

這次捲土重來的神經網路已非吳下阿蒙,在輸入的神經細胞和輸出的神經細胞兩層之間,中間又多加了一層神經細胞。這多加的一層叫作「隱藏層」或者「深沉層」。「隱藏」或者「深沉」的本意都是指這一層神經細胞夾在中間所以從外面看不見。但是媒體記者往往把「深沉」理解爲「具有深沉推理的能力」。「深沉神經網路」因此被吹捧成爲具有深沉推理能力的神經網路,這當然就更神奇了。

幸好深沉神經網路果然不負衆望,在近年開發的應用領域展現強大的學習能力,最特殊的表現就是它能夠在學習後生成類似的東西。你餵給深沉神經網路一萬個句子,它就能生成類似的新句子。你餵給深沉神經網路十萬張圖片,它就能生成類似的新圖片。這就是近來流行的「生成式 AI」 。

其實資訊科學的許多研究課題一直繞着「生成這、生成那」的各種演算法打轉,例如從高階程式語言生成低階程式語言,只是一般人用不着所以不知道。現在使用深沉神經網路的生成式AI卻可以應用到許多實際項目,例如寫履歷、寫閱讀報告、甚至駕駛飛機、從事戰鬥任務等等。因此導致「生成式 AI」爆炸性的發展。生成式AI其實植基於過去資訊科學對各種生成演算法的研究成果。

既然生成式AI進展快速到這個地步,甚至AI和人類爲敵的日子似乎不遠。我們該怎麼辦?怎麼才能夠制住AI這條大壞狼?隨着生成式AI的軍用化,這方面的恐懼與日俱增。許多國家都開始立法,限制AI的發展和應用。

首先必須說明,所有的罪惡都假AI爲名,有點矯枉過正。我前面說過,生成式AI其實植基於過去資訊科學對各種生成演算法的研究成果。其實AI依賴其他領域何止於此。黃仁勳現在大家都以爲他先知先覺發明AI晶片。其實他的晶片是爲了處理複雜圖片和影像資料。可見AI尤其是生成式AI本來就需要能處理複雜資訊的晶片。你問任何誠實的科學家,他都會說,他的成就是依靠別的科學家,他是站在巨人的肩膀上面。所以AI和其他資訊科學領域息息相關。要限制AI的發展和應用,必須也限制其他資訊科學的發展和應用。

舉個最明顯的例子,我們聽說 AI可以駕駛飛機獨立作戰,就恐懼AI和人類爲敵。但是AI要彼此串聯,必須仰仗進步的通訊技術。如果要避免AI和人類爲敵,就必須限制通訊技術的發展,讓AI無法彼此溝通,其理甚明。

其次必須說明,人類面臨許多問題,都和巨型系統的不穩定性有關。當系統長大到一個程度,它的穩定性會降低。最明顯的例子是氣候變化。這是自然的系統。在人爲的系統方面也是一樣。生成式AI  會導致災難,也是因爲人爲的系統太大因而缺乏穩定性。

從前王永慶要努力奮鬥三十年,才累積了他的財富。現在一個經營比特幣買賣的年輕人,三年不到就可以累積更多的財富。這是因爲通訊速度越來越快,人爲的系統越來越大也越來越不穩定,累積財富和喪失財富的速度也更快。

這些都不是AI的錯,但是生成式 AI 有推波助瀾的作用。如果要解決問題,也必須多方面下手。社會立法是其中的一個。我認爲另外一個有效的做法是大幅度增加富人稅。如果一個經營比特幣買賣的年輕人,三年不到就可以累積比王永慶更多的財富,他顯然並沒有花和王永慶同樣的力氣,所以課以重稅並不過分,百分之九九點九的稅率都算客氣了。對於應用生成式 AI 的中下游企業也可課以重稅,限制它的發展。

人類已經到了生死存亡的關頭。我對未來並不悲觀,但如果只考慮限制AI本身並不能解決問題。最重要是把自然和人爲巨型系統的不穩定性降低。這是兩碼子事,但彼此又息息相關。要降低人爲巨型系統的不穩定性,最好的手段就是通過社會立法,並且課富人和大企業以重稅。等到系統穩定了又進入循環期,熱門的生成式AI 過幾年又會不熱門了!