監管AI魔改亂象 存在哪些難點或者盲點？

隨着AI技術發展，近來各種“AI魔改”視頻、照片在網絡大行其道，亂象頻出。《甄嬛傳》變身槍戰片、《紅樓夢》改成武打戲、孫悟空騎着摩托車揚長而去，在AI加持下，觀衆永遠猜不到下一秒會發生什麼。

另有一些人還迅速從AI合成視頻技術中發現商機。例如，某AI應用程序上，用戶只需提供兩張照片，支付一定價格所謂的製作費，就能利用AI合成技術生成長約5秒的所謂和明星“接吻”或“擁抱”的短視頻。

針對上述亂象，日前，廣電總局網絡視聽司發佈《管理提示》，要求各相關省局督促轄區內短視頻平臺排查清理這類視頻，並且對在平臺上使用、傳播的各類相關技術產品嚴格准入和監看。9月，國家網信辦發佈了《人工智能生成合成內容標識辦法（徵求意見稿）》公開徵求意見，其中明確，相關服務提供者應當在視頻顯著位置添加提示標識，視頻傳播平臺也應當提醒用戶主動聲明發布內容中是否包含生成合成內容，同時做好相應的監測，在發佈內容周邊添加顯著的提示標識。

但是對於這一新課題，到底如何有效監管呢？上海人工智能研究院數字化治理中心主任彭嘉昊認爲，對於AI生成式技術的使用和監管，目前還存在不少難點甚至盲點。

看看新聞記者: 李瑤，方樑

編輯: 黃豔琳

責編: 趙歆