美媒：由AI生成的假馬斯克，成了最大的網絡騙子
8月15日消息，據美媒報道，近年來，人工智能深度僞造技術（Deepfake）在網絡詐騙中廣泛應用，尤其是利用僞造的埃隆·馬斯克（Elon Musk）視頻進行詐騙的案例尤爲突出。這些視頻通過模擬馬斯克的聲音和動作，誤導投資者。這類深度僞造視頻成本低廉、傳播迅速，使得詐騙者能夠輕易擴大其欺詐活動的影響範圍，導致許多受害者因爲虛假的投資機會而損失鉅額資金。隨着深度僞造技術的風險日益凸顯，其每年可能導致的欺詐損失預計將達數十億美元。
以下爲翻譯全文：
現年82歲的退休老人史蒂夫·比徹姆（Steve Beauchamp）本希望爲家人增加一些收入，他把希望寄託在了埃隆·馬斯克（Elon Musk）身上。去年底，比徹姆偶然看到一段視頻，視頻中馬斯克似乎在推薦一個承諾能迅速獲利的激進投資方案。受此啓發，比徹姆迅速聯繫了該視頻背後的公司，並以248美元開設了一個投資賬戶。然而，在接下來幾周裡，他逐步增加投資，最終從退休金賬戶中動用了超過69萬美元。
但不久後，這些錢就消失了，落入了一羣利用人工智能進行新型數字詐騙的騙子之手。這些詐騙者巧妙地篡改了一段馬斯克的真實採訪，利用AI技術替換了他的聲音，並微調了他的口型，以匹配他們爲這個數字人編寫的新劇本。對於一般觀衆來說，這種操作幾乎是察覺不出的。
比徹姆回憶起那段視頻，感慨地說：“視頻中的他，形象鮮明，一眼就能認出是馬斯克。至於是否是AI讓他說出那些話，我現在也無法確定。但就視頻畫面而言，如果有人要我從人羣中識別他，我肯定能指出來。”
馬斯克成深度造假常客
近幾個月來，互聯網上充斥着數以千計的這種由AI驅動的視頻，這些被稱爲“深度造假”（Deepfake）的視頻中，僞造的馬斯克形象誤導了衆多潛在投資者。據德勤估計，這類由AI支持的深度造假每年可能導致數十億美元的欺詐損失。
這些視頻製作成本極低，幾分鐘內即可完成，並通過社交媒體進行推廣，包括在Facebook上的付費廣告，大大擴展了它們的影響範圍。監測和檢測深度造假視頻的公司Sensity聯合創始人兼威脅情報主管弗朗西斯科·卡沃利（Francesco Cavalli）對此發出警告：“這可能是有史以來最大規模的深度造假騙局。”
這些視頻常常惟妙惟肖，精準捕捉了馬斯克標誌性的不連貫語調和南非口音。詐騙者通常從一段真實的視頻入手，比如《華爾街日報》採訪，造假視頻中保留了記者的聲音，這增加了視頻的真實性。
利用先進的對口型技術，詐騙者調整了馬斯克的嘴部動作，使其與他們僞造的臺詞完美匹配。他們還使用了聲音克隆工具添加AI聲音，這些工具能從樣本片段中複製任何聲音。最終的廣告中，可能還包括僞造的圖形，模仿新聞機構的樣式，這對一般網絡用戶來說可能頗具說服力。
根據Sensity的分析，馬斯克是這些視頻中最常見的發言人。在近2000個分析樣本中，特別是從去年底開始，他出現在了近四分之一的深度造假詐騙中。在那些以加密貨幣爲主題的視頻中，這一比例甚至高達近90%。深度造假廣告還常常使用沃倫·巴菲特（Warren Buffett）這樣的著名投資者和亞馬遜創始人傑夫·貝索斯（Jeff Bezos）等商界大佬。
儘管很難準確統計出有多少深度造假在網絡上流傳，但通過搜索Facebook廣告庫中常用的與詐騙相關的語言，發現了數十萬條廣告，其中許多包括了深度造假視頻。雖然Facebook已刪除了許多違反政策的內容，並禁用了相關賬戶，但仍有其他視頻留在了網絡上，而且似乎每天都有更多視頻出現。
YouTube也充斥着這些僞造的內容，這些視頻常常帶有“直播”標籤。事實上，這些都是預先錄製的深度造假視頻。在YouTube上搜索關鍵詞如“埃隆比特幣會議（Elon Bitcoin conference）”，可以看到數十個僞裝成直播的視頻，視頻中的深度造假馬斯克正在兜售加密貨幣詐騙，誤導性極強。
在美國前總統唐納德·特朗普（Donald J. Trump）在比特幣會議上發言後，YouTube上迅速出現了數十個標註爲“直播”標籤的視頻，展示了一段預先錄製的深度僞造馬斯克視頻，聲稱會加倍返還發送到他賬戶的任何加密貨幣。這些視頻雖然吸引了大量觀衆，其中一些視頻的觀看次數達到了數十萬。但YouTube表示，詐騙者可能使用網絡水軍人爲誇大觀看次數。
據非營利消費者權益組織Better Business Bureau的報告，一名得克薩斯州居民在2023年2月通過YouTube上一段所謂的“直播”視頻，看到了僞裝成馬斯克的詐騙信息，因此損失了價值36,000美元的比特幣。該居民表示：“我轉了比特幣，但什麼都沒收到。”
FB與YouTube成重災區
YouTube在一份聲明中表示，僅在今年1月至3月期間，平臺就移除了超過1570萬個頻道和超過820萬個視頻，這些內容大多因違反其反垃圾郵件政策而被刪除。
鑑於虛假廣告氾濫，澳大利亞億萬富翁安德魯·福雷斯特（Andrew Forrest）對Facebook的母公司Meta提起了民事訴訟，指責其在廣告業務中的疏忽，聲稱這些廣告業務誤導了無辜用戶進行錯誤投資。據悉，福雷斯特本人的視頻也被用於製作深度造假廣告。
Meta公司迴應稱，正在訓練自動檢測系統以識別平臺上的欺詐活動，但也坦言這是一場複雜的貓鼠遊戲，因爲資金充足的詐騙團伙不斷改變策略以逃避檢測。YouTube則重申其禁止欺詐和視頻篡改的政策，並在今年3月要求所有創作者在使用AI創造逼真內容時必須進行明確披露。
網絡上充斥着大量相關的詐騙報告，其中不少人損失了他們的畢生積蓄。香港證券及期貨事務監察委員會在5月份發出了關於涉及馬斯克的詐騙活動的警告。今年早些時候，美國聯邦貿易委員會和聯邦調查局也警告美國民衆，AI驅動的網絡犯罪和深度僞造詐騙正日益增多。
FBI在一份電郵聲明中強調：“犯罪分子正在利用AI作爲力量的放大器，使網絡攻擊和其他犯罪活動更加有效且難以被偵測。”
數字詐騙與互聯網的發展同步增長。但隨着去年複雜的AI工具向公衆開放，以馬斯克爲特徵的新一波深度僞造浪潮應運而生，這些工具讓普通人能夠克隆名人聲音或精確操控視頻，吸引了色情行業、表情包製作者和越來越多的詐騙團伙的注意。
網絡安全研究實驗室CTM Insights的創始人盧·斯坦伯格（Lou Steinberg）指出：“現在的情況正在發生變化，因爲有組織的犯罪團伙已經發現，通過這種方式可以賺錢。”他預計，我們將看到越來越多的這種假冒企圖，目的就是騙錢。”
儘管AI生成的視頻並不完美，例如馬斯克的聲音在一些視頻中可能聽起來機械化，而且他的口型並不總是與臺詞不匹配。但專家警告稱，這些視頻對於一些詐騙目標來說已經足夠令人信服，並且隨着時間的推移技術正在不斷改進。
根據Sensity的卡沃利的說法，這些視頻的製作成本非常低，大約只需10美元，而且大多數詐騙者使用一系列免費或便宜的工具在不到10分鐘內拼湊出假視頻。他們主要位於印度、俄羅斯和東歐。
“它有效，”卡沃利說。“因此，他們將繼續擴大這一活動，跨越國界，用多種語言翻譯，並不斷向更多目標傳播詐騙。”
老年人成爲完美目標
這類騙局常以高回報的人工智能投資軟件爲幌子，初期誘使受害者投入小額資金——如250美元。隨後，通過誇大投資的增值效果，逐漸誘導他們增加投資金額。
特斯拉股東大會的一條視頻也被僞造，視頻中馬斯克解釋了一個由AI驅動的自動交易產品，聲稱能夠每天翻倍投資回報。
研究加密貨幣社區的專家指出，馬斯克擁有一羣獨特的全球粉絲羣體，這些粉絲多爲保守派、反體制人士和加密貨幣愛好者，他們經常尋找賺取財富的非傳統途徑，這使得他們成爲這些騙局的理想目標。
“肯定有一羣人相信財富的秘密被隱藏了起來，”研究加密貨幣社區的研究者莫莉·懷特（Molly White）說。她指出，部分人羣總幻想掌握財富秘密，認爲一旦找到便能一夜暴富。
詐騙者尤愛針對年長互聯網用戶，他們雖對加密貨幣、人工智能或馬斯克有所瞭解，但不熟悉安全投資方式的年長互聯網用戶。
“老年人一直是詐騙者眼中的一塊肥肉，這一現象甚至早於社交媒體的興起，”加州大學戴維斯分校的科學技術研究教授芬恩·布倫頓（Finn Brunton）說，他是加密市場的專家。
比徹姆是一名鰥夫，曾在加拿大安大略省的一家公司擔任銷售代表，直到75歲退休。2023年加入Facebook後不久，他就遇到了廣告詐騙。儘管他記得曾在CNN的直播中看到過馬斯克，但CNN的一位女發言人表示，馬斯克已多年未在該臺接受過採訪。
去年12月，比徹姆向一家名爲Magna-FX的公司匯款27,216美元，據他和該公司的電子郵件交流顯示，Magna-FX使他相信他的投資價值在增加。期間，一名銷售代理甚至使用軟件遠程控制了比徹姆的電腦，擅自轉移資金。
當比徹姆嘗試提取資金時，他被告知需要支付3,500美元的管理費和另外3,500美元的佣金。他付了這些錢，但後來又被告知需要支付20,000美元才能釋放約20萬美元的資金部分。儘管他已經用盡了退休儲蓄，刷爆了信用卡，動用了信用額度並向妹妹借款投資和支付費用，詐騙者還是要求他支付更多費用。此時，比徹姆已意識到問題的嚴重性，於是聯繫了警方。
Magna-FX的大部分痕跡已經從網絡上消失，包括公司網站、電話號碼以及比徹姆曾與之交流的代理使用的電子郵件地址。一家名稱和服務相似的公司對評論請求未作迴應。
比徹姆在提交給Better Business Bureau的報告中表示：“此刻，我願接受所有指責與嘲諷，作爲對自己輕信的懲罰。”
他表示，目前正依靠一個未向詐騙者透露的較小退休賬戶及養老金來維持生計，而他原本計劃使用這些積蓄環遊世界。比徹姆已經向當地警方報案，但案件進展緩慢。
“由於到處都是欺詐案件，我的案件被放在了隊列中，”他說，“我沒有抱太大希望。”（小小）