美校長遭AI偽造錄音誣陷 專家警告人人可能受害

警方指控美國派克斯維爾高中(Pikesville High School)一名心懷不滿的職員利用AI技術僞造一段錄音,內容是校長艾斯華特(Eric Eiswert)怒罵猶太人和「忘恩負義的黑人小孩」。圖/美聯社

一段僞造錄音檔,讓美國馬里蘭州一名高中校長面臨排山倒海的反猶和種族主義指控。此案再度敲響人工智慧(AI)遭到濫用的警鐘,專家說,從總統到一般民衆,人人都可能受害。

法新社報導,警方指控派克斯維爾高中(Pikesville High School)一名心懷不滿的職員利用AI技術僞造一段錄音,內容是校長艾斯華特(Eric Eiswert)怒罵猶太人和「忘恩負義的黑人小孩」。

今年1月音檔外流後,派克斯維爾高中行政人員接到大量憤怒電話和威脅。此事凸顯隨處可得的AI和編輯工具很容易被濫用來假冒名人和一般民衆。

全球多國將於今年舉辦重要選舉,美國也將於11月舉行總統大選。在修法填補漏洞之際,派克斯維爾高中的案例說明了逼真的深僞(deepfake)技術造成的危害。

加州大學柏克萊分校(University of California,Berkeley)數位鑑識專家法瑞德(Hany Farid)說:「只需要一個畫面就能讓某人出現在影片裡,只需要30秒的音訊就能複製一個人的聲音。」

他說:「除非從不留下任何蛛絲馬跡,否則幾乎無能爲力…攻擊對象已從(美國總統)拜登、(流行歌手)泰勒絲(Taylor Swift),擴大到高中校長、15歲青少年、記者、律師、企業老闆,甚至是家中長輩。現在每個人都可能受害。」

經過校方調查後,派克斯維爾高中的31歲體育主任達林(Dazhon Darien)上月底被逮捕。檢方正準備以4項罪名起訴他,包括擾亂學校活動。

起訴文件提到,該校教職員在音檔流出後感覺很不安全,教師們擔心校園內裝有錄音器材。許多網友也在艾斯華特的社羣媒體帳號留下大量辱罵訊息,一名社羣平臺X用戶對艾斯華特說:「如果你死了,世界會變得更加美好。」

目前校方暫時讓艾斯華特休假,他的住宅也需要加強保全。

當這段捏造音檔在社羣媒體上傳開時,擁有近百萬粉絲的倡議人士麥克森(DeRay McKesson)在X平臺上公開要求校方開除艾斯華特。等到警方提出指控,他才坦言自己被騙了。

美國多所學校也正致力打擊AI製造的深僞色情片,這些影片導致學生受到騷擾,而目前並無聯邦法律可管。

派克斯維爾高中的高爾夫球教練布瑞頓(ParkerBratton)說,艾斯華特的例子在當地敲響警鐘,揭示假資訊如何把一個「非常緊密的社區」鬧得雞犬不寧。

布瑞頓說,美國只有一位總統,卻有不計其數的校長,「大家會想:對我來說這意味什麼?萬一有人想毀掉我的職業生涯,我會面臨哪些後果?我們永遠擺脫不了這種風險」。