人工智慧具備自我意識嗎

AI人工智慧最新浪潮—停不下來的列車（博碩出版社）

在過去這幾年，無人機的技術已經廣泛的應用在各種戰爭場景中，美國可以利用其「死神無人機」去獵殺伊朗的軍事將領；中國也可以利用其「雙尾蠍無人機」執行各式各樣的任務；而數以萬計的自殺式無人機更在俄烏戰場上摧毀敵軍的坦克和軍事設施。除此之外，烏克蘭也曾經利用無人船艦攻擊俄羅斯的黑海艦隊，美國國防部也宣佈正準備克服通信問題，積極研發和部署無人潛艦。

另一方面，由於人形機器人的相關技術越來越成熟，在結合多模態大模型之後，很快的將會打造出通用型智能機器人。幾年之內，我們就可以看到戰鬥機器人取代人類在戰場上搏殺，而這些戰鬥機器人恐怕都是由人工智慧系統統一控制。這不正是《魔鬼終結者》電影中的機器人軍團嗎？

目前，大型的無人機仍然需要由人類操控，但是數量龐大的小型無人機都已經由自動控制系統來執行任務。未來當人工智慧掌握戰場調兵遣將的主控權時，各軍種的機器軍團當然會接受號令、無有不從。屆時，這些戰爭機器所效忠和服從的，究竟是人類還是人工智慧呢？

2023年7月1日凌晨兩點，中國人民解放軍人工智慧領域的首席專家馮暘赫，因爲發生嚴重車禍而不幸去世。馮暘赫有「天才科學家」的稱號，主要研究的內容是強化學習、人工智慧博弈、兵棋推演技術和貝葉斯理論，負責打造兵棋推演場景中輔助決策的「最強大腦」， 稱之爲「戰顱」， 用來強化中國人工智慧指揮控制系統的能力。由於過去以色列曾經在海外暗殺伊朗發展核武的科學家，因此馮暘赫的死亡也被很多中國的網友懷疑內情並不單純，是否有外國政府介入？

不讓中國專美於前，美國也正在積極的將人工智慧投入軍工產業。2024年2月28日，彭博社發表了一篇深入報導，題目是《人工智能戰已經到來》，詳細介紹了美軍正在推動的「梅文計劃」，這是一款用於戰場識別敵我的人工智慧模型。

報導中提到，2020年夏季，在美國陸軍南卡羅來納州自由堡基地，美軍正式測試成功戰場目標識別的人工智慧系統，系統在確認敵方目標後通知海馬斯火箭炮開火，擊毀敵方目標。在過去四年裡美國軍方也沒有閒着，他們積極的將人工智能應用在戰場的其他領域，並且大幅提升和充實梅文計劃的功能。第18空降師使用梅文系統結合了其他的武器系統，可以從戰鬥機、轟炸機、無人機，甚至潛艦開火，打擊目標。

第18空降師的瞄準官提到，在使用梅文系統時，1小時可以識別80個目標；而在沒有梅文系統的情況下，過去1小時只能識別30個目標。

2022年2月，俄烏戰爭開打後，第18空降師直接進駐德國，協助烏克蘭精準打擊俄羅斯軍事設施，將「梅文智能系統」直接應用在俄烏戰場。儘管演算法還不夠成熟，美國仍然決定擴大「梅文智能系統」的自主性。也就是說，只要有人類的監督就可以，而不需要人類做最後的決策。當人工智慧掌握戰爭機器，並且可以自行決定是否要展開殺戮的時刻，人類的命運不就變相的交到了人工智慧的手中嗎？

不管是「戰顱」或是「梅文系統」，其實都是類似電影中「天網」的雛形。持續發展下去，誰都不能保證《魔鬼終結者》電影中的劇情不會真實的發生。特別是當美中爭霸進入白熱化的階段，恐怕任何一方都不會放棄將人工智慧應用在軍事領域。這與發展核彈不同，因爲核彈是死物，人類可以隨時決定將其銷燬。而聰明過人又具備自我意識的人工智慧一旦掌握了戰爭機器，那麼恐怕就不見得會願意受人支配、任人擺佈。

（三之二；摘自《AI人工智慧最新浪潮》）