媒體關注：中國將規範AI生成合成內容標識

參考消息網9月16日報道 據埃菲社9月14日報道，中國國家互聯網信息辦公室14日公佈了一份徵求意見稿，旨在規範人工智能(AI)生成合成內容標識，“維護國家安全和社會公共利益”。

該機構稱，《人工智能生成合成內容標識辦法(徵求意見稿)》現向社會公開徵求意見，意見反饋截止時間爲2024年10月14日。

根據該辦法的定義，人工智能生成合成內容是指利用人工智能技術製作、生成、合成的文本、圖片、音頻、視頻等信息。

根據該辦法，相關服務提供者應當按照有關強制性國家標準的要求進行標識。

徵求意見稿還指出：“服務提供者提供生成合成內容下載、複製、導出等方式時，應當確保文件中含有滿足要求的顯式標識。”

另據香港《南華早報》網站9月14日報道，考慮到人工智能生成內容對國家安全和公共利益構成的新挑戰，中國已提出新的要求，以便對人工智能生成的內容進行規範標識。

這份正在向社會公開徵求意見的標識辦法對於人工智能生成合成內容在製作、展示和傳播過程中的標識提出明確要求。

根據徵求意見稿，符合條件的人工智能生成合成服務提供者將被要求對生成的文本、視頻、音頻和虛擬場景添加顯著的提示標識。

與此同時，也鼓勵服務提供者在生成合成內容中添加數字水印等形式的隱式標識。

徵求意見稿提到，任何組織和個人不得惡意刪除、篡改、僞造、隱匿本辦法規定的生成合成內容標識，不得通過不正當標識手段損害他人合法權益。

徵求意見稿還要求，提供網絡信息內容傳播平臺服務的服務提供者應當採取措施，規範生成合成內容傳播活動。

國家互聯網信息辦公室稱，這些要求旨在維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

報道稱，這些要求建立在現有法律框架的基礎上，包括2023年1月施行的《互聯網信息服務深度合成管理規定》。該規定要求對可能導致公衆混淆或者誤認的深度合成內容進行顯著標識。另一項里程碑式的規定是2023年8月施行的《生成式人工智能服務管理暫行辦法》。

2023年8月，全國信息安全標準化技術委員會曾發佈一份指南，概述瞭如何對生成式人工智能服務內容進行標識。

報道稱，此次的徵求意見稿是中國對人工智能的快速發展以及該技術帶來的挑戰——包括錯誤信息傳播和版權問題——的最新迴應。舉例來說，“深度僞造”技術可利用人工智能對圖像、音頻和視頻進行造假，進而用來實施欺詐。

媒體援引中國政法大學專家張凌寒的話報道說：“標識制度可以提升人工智能信息內容治理能力，減少虛假信息生成，防止虛假信息污染下一代訓練數據，營造良好的網絡信息生態環境。”

許多國家和組織都在探索如何規範人工智能生成的內容，以確保真實性、保護版權和維護社會秩序。值得注意的努力包括歐盟的人工智能協調計劃、美國的《深度僞造問責法案》和英國政府的《在線危害白皮書》。

報道稱，北京一位專門從事知識產權交易的律師表示，這一舉措意味着中國生成式人工智能服務業進入嚴格監管和高合規標準的新階段。（編譯/蘇佳維 卿松竹）