賣換臉A片撈千萬 網紅30萬交保

百萬網紅YouTuber「小玉」(右2)涉嫌利用AI「Deepfake」技術,將正妹網紅、民代「換臉」製作色情片並兜售。刑事局逮捕小玉等3嫌,昨移送法辦。(翻攝畫面/胡欣男臺北傳真)

在YouTube擁有141萬訂閱的網紅「小玉」朱玉宸,涉嫌以最新AI「Deepfake」人工智慧技術,將正妹網紅、民代「換臉」合成日本AV影片,再於社羣網站招攬會員兜售。刑事局昨將小玉等3嫌送辦,初估1年多來獲利至少1000萬,被害超過百人。檢方復訊後,諭令小玉50萬交保,他因籌不出錢,改爲30萬;另2共犯10萬交保與飭回。

刑事局破國內首起案例

刑事局指出,Deepfake專指基於人工智慧的人體圖像合成技術的應用。國外研究發現,該技術曾用於選舉假訊息、企業詐欺等,這是臺灣首度查獲此技術的犯罪。去年10月,日本警視廳逮捕3嫌,也是將女藝人臉部合成到AV影像,營造當事人參與色情演出的假象。

刑事局網路情搜,去年7月起,有標榜數名網紅「外流」性愛影片流傳,查證均非本人,循線追出是來自「臺灣網紅挖面」推特粉絲團。26歲小玉涉嫌以幾秒短片,吸引網友花400元加入通訊軟體Telegram羣組,若要觀賞全片,需以片長不等,再花400至1900元購買,就可獲私訊連結下載,會員約8000人。

移花接木 上百名人被害

警方查出,小玉自去年6月因罵母乳爭議影片後,就沒更新YT影片,反而以國外購得的AI換臉軟體,和22歲莊姓男子、24歲耶姓女子共同將雞排妹等網紅、藝人、立委高嘉瑜等女名人頭像,移花接木到色情片。小玉剪輯影片和回覆網友留言,莊找影片素材,耶女則處理金流。

警方17日拘提3嫌,查扣存有影片的硬碟,並於保險箱起獲458萬現金。據瞭解,小玉稱起初只是在羣組分享好玩的剪輯影片,但人數愈來愈多,纔開始收費。警方查出,3嫌也接受會員票選「下部想看誰?」再客制VIP影片;有人竟起鬨指名蔡英文總統,但嫌犯並未製作。

總統昨日在臉書斥責稱,「這些假訊息和影片,有一天都可能傷害到你我,需要大家一起遏止科技犯罪」,將重新盤點法規,研擬修法。