工人日報社評丨向“AI生成謠言”說不，讓網絡空間更清朗

工人日報-中工網評論員 吳迪

無論是“逢大事便有謠言”還是“逢謠言便有AI”都提示我們，治標更要治本，要以前瞻性思維佈局謀劃，讓打擊治理謠言事半功倍。

據1月12日央視新聞報道，近日，西藏日喀則市定日縣發生6.8級地震後，一系列“小男孩被埋圖”在網絡上廣泛傳播。經公安機關覈查，上述圖片由AI工具創作，青海某網民將其與日喀則地震信息進行關聯拼湊，引發謠言擴散。目前，該涉案人員已被屬地公安機關依法行政拘留。警方覈查發現，此次地震後，多地網民參與發佈地震造謠信息多達數百條，有的用以往地震現場畫面假冒定日災區現場、有的是“走在路上親歷地震瞬間”，還有誇大死傷人數、預測地震、嫁接視頻等製造虛假信息的情形，其中不乏AI工具參與創作的影子。

地震發生後，一些號稱來自災區的視頻、圖文信息無疑極具關注度和影響力。“小男孩被埋圖”的廣泛傳播，令人們原本就難過的心情再添一層陰雲。在某短視頻平臺，以該系列圖片爲內容的發佈者多達數十名，有的單條作品獲得上萬轉評贊數據，很多網友追問“小孩怎麼樣了”。

其實，每次發生地震、泥石流等地質災害，暴雨等極端天氣災害以及一些重大事故時，往往都有謠言見縫插針，隨意編造遇難人數、惡意揣測成因或“移花接木”相關視頻等，目的多是收割關注度，實現流量變現。

讓造謠者付出代價，是人們的共同心聲，但很多時候，謠言還是跑在了真相前面，造謠有時甚至成了一門生意。時下，AI生成內容門檻低、可定製、識別難，文生圖、圖生視頻、爆改視頻易如反掌。短視頻時代，信息的傳播僅需“輕點一下”，不少人並不會認真鑑別真僞，這也加劇了虛假信息的病毒式擴散。

在類似地震這種重大事件面前，謠言的危害不容小覷。首先，製造虛假熱點，惡意消費公衆的注意力和同情心，還有人設下愛心捐款類騙局。其次，干擾一線救援工作秩序和節奏，影響信息的蒐集研判以及救援力量的分配。再有，謠言對於各戰線的救災人員、遇難者及其親屬而言，是極大的不尊重，甚至可能造成二次傷害。還需注意的是，“謠言—流量—變現”的路徑可能帶來一些負面激勵，比如，此番“小男孩被埋圖”剛闢謠，就有網民發佈“過段時間就到××地方了，經驗之談”“300多年就會來一次大的，兩次了”等言論。

隨着謠言生產越來越低成本和批量化，公衆必須提高警惕，多一些思辨，少一些隨意轉發，對沒有權威出處的信息尤須審慎。長遠看，針對AI工具參與謠言製造與傳播，更需加強技術對抗。一方面，隨着AI接受的基礎素材“投喂”越來越多，其生成的信息就會越來越逼真，相應的識別和打擊工作會更難，有關部門須從技術對抗的視角思考如何有效管理生成式人工智能技術及其產品，對不良苗頭早防早治、打早打小；另一方面，相關平臺應完善技術手段，加強對深度合成內容的管理——當前，不少平臺對AI生成信息要麼沒有提示，要麼字體極小，有的審覈機制滯後甚至“先發後審”，給謠言傳播留下了較大空間。近幾年，國家有關部門出臺了深度合成服務管理規定、生成式人工智能服務管理規定等，都明確不得用AI方式或者深度合成方式去炮製謠言，不得把AI手段作爲傳播謠言的方式。

近年來，關於如何讓AI技術向上向善屢屢引發熱議。“AI賦能”對普通人而言，究竟是利好更多還是“韭菜味兒”更多，往往與技術開發和應用的一方秉持何種價值觀、發展觀，以及有關平臺和監管方面的作爲有很大關係。無論是“逢大事便有謠言”還是“逢謠言便有AI”都提示我們，治標更要治本，要以前瞻性思維佈局謀劃，讓打擊治理謠言事半功倍。

災難話題是嚴肅的、凝重的，有關方面絕不應容許“吃流量饅頭”的次生災害一再發生，相關不法行爲也須受到懲處。這是規範網絡秩序，讓社會更文明、更法治的需要，也是減少公衆恐慌，讓社會有更多信任、更多良知的需要。

來源：中工網-工人日報