AI應成謠言“粉碎機”而非“製造機”

澎湃首席評論員 與歸

又有人利用AI炮製災情謠言被查處。2月8日11時許，四川省宜賓市筠連縣沐愛鎮金坪村2組突發山體滑坡，當救援救災工作還在緊張地開展，一些蹭熱度的AI謠言已經在網絡攪局了。

公安部網安局2月15日通報：近期，有網民爲借“四川宜賓山體滑坡災害”博取流量，使用AI技術炮製隨意捏造災害發生的時間、地點及受災、救災情況，形成“四川涼山發生山體滑坡災害”系列謠言並傳播，引發當地羣衆恐慌和網民質疑，擾亂視聽。公安機關網安部門立即開展網絡謠言打處工作，涉事網民周某、許某鑫均被處以行政處罰。

值得注意的是，前不久西藏日喀則發生地震，也有不少AI生成的圖片以假亂真。這可能也是身處AI時代必須警惕的問題：大量由AI生成的內容，包括文字、圖片、視頻等，和人類自己生產的真實信息相混合，難分彼此。其危害不只是造成社會恐慌和擾亂網絡傳播秩序，更在於對信息生態的污染和破壞。

監管部門及時打擊是必須的，通報相關典型案例形成震懾也是必要的。另一方面，當類似的AI謠言層出不窮，當AI謠言成了災害事故的寄生蟲，也需思考的是：如何從源頭上加以遏制？

既然每逢社會關注度高、牽動人心的災害事故出現，總有別有用心的人想蹭熱點、博流量，那麼平臺可否立即啓動相關“應急預案”，提前監測和預防可能出現的謠言，及早掐斷傳播路徑，將其影響力壓縮在最小範圍？應急不僅僅是對災害、事故的應急，還要同步到網絡上。

AI謠言具有仿真性和規模性的特徵，且隨着技術的進步，越來越貼近人類的表達方式，越發難以辨識。一個可行的突破口是“以技制技”，甚至是“以AI制AI”。比如，完善AI生成的水印技術，實現對生成內容的有效溯源；建立識別和查處AI謠言的技術性、制度性規則等。

利用AI造謠傳謠，危害性不容小覷。去年6月，浙江警方追查一則不實火災消息，破獲了一起利用AI造謠的非法謀利案件，該團伙僅有3人，卻在一個月內使用AI生成發佈了3000多個虛假視頻。以前是造謠一張嘴，現在可能是千張嘴、萬張嘴。

AI應該成爲“謠言粉碎機”而不是“製造機”。有人建議強制AI學習法律，乃至所有條款，當使用者出現違反法律的情形時，AI可以警告提醒乃至拒絕執行命令。人們也期盼這樣一款AI或功能：輸入某條消息，AI可以迅速找到其製作源頭，乃至梳理出整個傳播鏈條，從而方便監管部門查處相關責任人。

說一千道一萬，無論工具怎麼變，利用工具做好事或作惡的依然是人。AI的B面，同樣是人性的B面。

AI只是一種技術工具，治理AI謠言，一方面需加大打擊力度，及時斬斷炮製AI謠言的幕後黑手和背後的黑灰產業鏈。另一方面，也要堅持科技向上向善，將這一理念深刻融入到AI的開發與進化中，不斷完善技術和治理規則，有效擠壓網絡謠言和虛假信息的生存空間。

本期資深編輯 周玉華