AI武器未來戰（下）：「無人機」的新世界大戰？
軍用無人機，預料會是列強國家爭奪的下個軍事戰場。圖爲美軍開發第一款專門用作獵殺用途的軍事無人機——MQ-9死神偵察機（MQ-9 "Reaper"）。 圖／路透社
▌前篇：〈AI武器未來戰（上）：「殺手機器人」的禁令謬誤？〉
過去在CCW專家會議上，反對LAWS者曾經舉以色列的哈比無人機（IAI Harpy），做爲自主武器的案例討論。Harpy開發於上世紀九零年代，目的在於摧毀敵方雷達系統，後來以色列出售給中國，中國又疑似以此爲原型山寨產生了ASN-301無人機。
若照LAWS反對者的邏輯，凡是設計用來攻擊的無人機都屬違法。反對LAWS者認爲，無人機應用在軍事上的複雜性讓人類難以處理。例如有報告指出，在巴基斯坦，美軍以無人機獵殺恐怖份子及其幫手，他們宣稱準確度超過99.99％，被錯誤歸類爲恐怖分子的機率僅有0.008%。機率看起來極低，但換算成人口數卻是約上萬人。
有報告指出，美軍在巴基斯坦以無人機獵殺恐怖份子，雖然宣稱準確度超過99.99％，被錯誤歸類的機率僅有0.008%。機率看起來極低，但換算成人口數卻是約上萬人。圖爲反戰NGO團體「Codepink」在2013年在美國的「無人機展覽會」場外抗議。 圖／法新社
這就牽涉到責任議題。如果戰爭時發生違反國際法規則或道德規範的錯誤，誰應該負責任？是操作的士兵、下令的指揮官、編程LAWS的設計者，亦或是授權的官僚體系呢？
目前還可從涉及其中的人類究責，但未來如果AI真能完全自主，那麼它必然是從經驗和環境中學習，做出反映學習成果的決定。如此發展下去，設計者也無法預測與控制，更難以抓出特定人士爲後果負責。
此外，反對者也認爲軍隊多是利用黑箱算法處理數據，算法恐有偏見與謬誤。現在的AI對於固定的物體，像是傢俱或動植物，擁有較爲可靠的標記和分類能力。但如果談到訓練AI去理解複雜現象，基於數據與技術有限，可能會導致完全錯誤的結果。
反對LAWS者特別舉例自動臉部識別，在應用上存在很多問題。麻省理工的研究指出，IBM、微軟等科技巨頭所設計的臉部識別算法，根據性別與種族會有不同的結果。例如研究發現，在偵測時，比較淺膚色的男性與深膚色的女性，錯誤率高達35％。
自動臉部識別科技在應用上存在很多問題。麻省理工的研究指出，IBM、微軟等科技巨頭所設計的臉部識別算法，在偵測時，膚色較淺的男性與深膚色的女性，錯誤率高達35%。 圖／路透社
也有其他研究支持AI辨識存有偏見的結論，特別是在兵荒馬亂間，涉及編程的參數不可能包羅萬象，更具流動性和動態性。因此AI建議的行動方案多基於認知基礎，而基礎本身常常早已具有偏見。試想若應用於戰場上，一些被錯誤認定的族裔遭受LAW攻擊，會是多麼嚴重的後果。
支持LAWS者則反駁，目前沒有國家實際使用這類AI，無人機攻擊仍須透過人類一定程度的控制。重點在於LAWS真正投入戰場前要確保準確度，這裡說的準確度並非百分百完美，只要能比人類更能減少傷亡，就是值得發展的方向。且人類很難透過戰爭學習，也不易傳承，但AI沒有此類問題，可以不斷累積經驗、糾正錯誤。
他們更強調，反對者把AI描繪成邪惡嗜殺的機器人絕對錯誤，他們認爲技術本身沒有問題，有問題的是使用者。未來的LAWS必須強調機器倫理，也就是設計者得在機器內輸入和處理國際法等相關規範數據，並讓AI深度學習，學到何種程度能上戰場纔是問題重點。
假設人類與完全自主的AI機器士兵交戰，那麼AI能預先編程，在達到某種確認度前不會以致命武力攻擊。由於AI沒有生命，可以裝備足夠承受火力的機甲；也沒有恐懼與憤怒，不似人類會爲自衛或情緒而先下手爲強，可設定直到滿足所有必要的條件才發動，這就是人類無法達到的地步。
電影《銀翼殺手》經典片段
然而，不可諱言的是，LAWS確實可能具備強大的武裝，使得反對者主張，其同屬於潛在的大規模殺傷性武器（WMD），應該與核生化武器、或是常規武器及其附加議定書等量齊觀，以國際法約束。他們擔心如果LAWS落入恐怖組織手中，會帶來極大傷亡，而國與國之間，也可能興起一波AI軍備競賽，危害既有的和平。
像是無人機成本不高，非常適合當作攻擊武器。飽受美國與以色列無人機威脅的巴基斯坦和巴勒斯坦，都疾聲高呼要停止這種AI帶來的人道災難。前幾個月，以色列剛公佈一份報告就指出，2014年軍隊因爲悲劇性失誤，以無人機殺傷了四名孩童。
恐怖份子似乎也紛紛展開行動。今年7月在美國墨西哥州，一名負責公安的官員住家發現有攜帶炸彈的無人機墜落，所幸沒有構成傷害，此事被懷疑與取締毒品有關；8月在委內瑞拉，也發生針對總統的無人機攻擊，有數人因此受傷，反對政府的民兵組織也已出面承認攻擊。
隨着商用無人機的普及，可能會出現更多自殺性爆炸，或是以其他恐怖主義模式威脅平民。曾經盛極一時的伊斯蘭國，就使用過無人機偵測與襲擊，甚至被用來吸引招募對戰鬥有興趣的人們。據報導指出，伊斯蘭國使用的無人機成本大多在1,000美元左右，坐實了反對LAWS者把無人機稱爲是「窮人的智能炸彈」。
無人機成本不高，非常適合當作攻擊武器。飽受美國與以色列無人機威脅的巴基斯坦和巴勒斯坦，都疾聲高呼要停止這種AI帶來的人道災難。圖爲2006年以色列無人機發動空襲，造成加薩走廊地區多人死傷。 圖／路透社
無人機是將淪爲「窮人的智能炸彈」？隨着商用無人機的普及，可能會出現更多自殺性爆炸，或是以其他恐怖主義模式威脅平民。圖爲巴勒斯坦激進武裝組織「哈瑪斯」（Ḥamas）手持無人機。 圖／美聯社
對此，支持LAWS者反駁自主武器是WMD的說法，認爲攻擊用途的無人機並不違反國際法。絕大多數的國家也不會禁止無人機，因爲其商用價值無可限量，且阻撓人類開發技術的障礙太低，真正有意義的作法是採取管理約束行爲。換言之，這屬於國內執法的範疇，無須聯合國公約。
目前各國多少都有關於無人機的法規，如美國聯邦航空管理局（FAA）去年制定新法，要求購買者登記重量在0.55磅到55磅之間的無人機，若未依法登記將受到民事或刑事處罰；中國同樣也要求重量在250公克以上的無人機實名登記，近來更規定部分特殊區域無人機操作者，必須擁有執照許可。
另一方面，軍事無人機的使用並非如想像中的簡單順遂。2011年CIA的無人機在伊朗進行任務時墜毀，現在大多認爲是伊朗利用駭客入侵GPS使其降落，也就是模仿發送到GPS的信號，欺騙機載接收器遵循命令。最近以色列也在領土上擊落來自伊朗的無人機，並宣稱伊朗透過逆向工程、複製美國的無人機。
迄今，美國仍在開發新技術，像是使用帶有模式識別軟體的攝影機輔助GPS導航，以確保無人機的控制。若想遠程操縱，需要先進的通信系統、指揮和控制基礎設施以及技術人員。以伊拉克爲例，它向中國購買了不須衛星導航、價格便宜許多的無人機CH-4，只須相對短程的無線電波引導，制約了打擊範圍。
絕大多數的國家也不會禁止無人機，因爲其商用價值無可限量，且阻撓人類開發技術的障礙太低，真正有意義的作法是採取管理約束行爲。圖爲2017年中國國際航空航太博覽會上，展示其自產的「彩虹」、「翼龍」、「雲影」等無人機。 圖／新華社
儘管如此，支持LAWS者也承認，無人機被濫用的威脅性越來越大。在葉門內戰就發現，伊朗向叛亂份子提供無人機等武器支援。這些無人機目前多用於對付地對空導彈系統和雷達陣列，以數百美元的無人機換數百萬美元的防禦導彈再划算不過，但未來則有可能會用在摧毀車輛、船隻或是軍隊人員。
若發生此類情形，較爲經濟可行的方案，是以無人機對抗無人機，這也是支持者大力疾呼的主因之一。支持者LAWS相信，即使締結國際法禁止自主武器，對手未必會遵守規則，特別是無人機已確定是未來數十年的武器主軸，此時如果不搶佔技術領導地位，必將受制於人。
值得注意的是，軍用無人機有逐漸擴散的趨勢。過去歐巴馬政府時代，一些中東國家，如沙烏地阿拉伯、約旦等，向美國購買軍用無人機遭拒，因而轉向中國。這不僅助長了中國的武器出口，更可能因爲數據的導入，有利於中國LAWS技術的進步。
美國則由於飛彈科技管制建制（MTCR）限制，僅被批准出售給英國、法國等盟國，明顯落後。今年川普政府則推出新政策，以便出口更多無人機與中國競爭，不難想見，未來軍用無人機市場將出現美中兩方激烈競爭，全球離有效管制LAWS恐怕也將越來越遠。
一些中東國家因向美國購買軍用無人機遭拒，而轉向中國。這不僅助長了中國的武器出口，更可能因爲數據的導入，有利於中國LAWS技術的進步。圖爲中國第十七屆中國西部國際博覽會上，展示的翼龍系列無人機模型。 圖／中新社