AI觀察｜面對AI“雙刃劍”，我們怎麼辦？

來源：人民網

10月以來，人工智能再次以其“雙刃劍”的特性展現在世人面前。一方面，人工智能技術因其在科學領域的貢獻而獲得了諾貝爾物理學獎和化學獎的認可，這些成就不僅彰顯了AI在科學研究中的潛力，也預示着它在未來將發揮更大的作用。另一方面，在國慶假期期間，AI技術卻因冒牌“雷軍”在社交媒體上的不當言論而遭到非議，再次引發了公衆對於AI安全性及倫理性的討論。

值得注意的是，在今年的諾貝爾物理學獎頒獎過程中，評委們特別強調了科技倫理與責任的重要性。獲獎者之一傑佛裡·辛頓也指出，科技界和社會應共同探討如何在推進AI技術進步的同時，確保其負責任地被使用。這反映出國際社會對於AI技術正面影響和負面影響共存的認識，並呼籲各方共同努力，構建一個健康的技術生態系統。

近年來，生成式AI的發展速度令人驚歎。曾經“一眼假”“一聽假”的AI生成內容，如今已經進化至“真假難辨”的水平。隨着AI技術的進一步成熟、普及，其潛在的安全風險也在不斷增加。

對此，全球範圍內已經出現了積極的應對措施。歐盟通過了一系列法律法規，如《人工智能法案》《一般數據保護條例》和《數字服務法案》等，旨在通過法律手段來規範AI技術的應用。我國《網絡安全法》《數據安全法》《個人信息保護法》等法律法規也已陸續頒佈執行。

去年，國家網信辦等七部門聯合發佈了《生成式人工智能服務管理暫行辦法》，對生成式人工智能的監督檢查和法律責任進行界定。今年9月，國家網信辦更是就《人工智能生成合成內容標識辦法（徵求意見稿）》公開徵求意見，旨在通過規範人工智能生成合成內容標識，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

記者從世界互聯網大會獲悉，2024年世界互聯網大會烏鎮峰會將於11月19日至22日在浙江烏鎮舉辦。本次烏鎮峰會將全面聚焦人工智能，以“擁抱以人爲本、智能向善的數字未來——攜手構建網絡空間命運共同體”爲主題，圍繞全球發展倡議、數字化綠色化協同轉型發展、數字經濟、人工智能技術創新與治理等議題舉辦20餘場分論壇。

其中，11月21日上午在枕水酒店宮音廳舉辦的人工智能負責任開發與應用分論壇將由人民網、中國網絡空間安全協會、安恆信息主辦，英國標準協會、印象筆記、鈦媒體協辦。主辦方介紹，該論壇將以“以人爲本、智能向善、造福人類”爲主題，匯聚國內外頂尖專家、學者及行業領袖開展深入討論，旨在促進建設多主體參與、多層面治理的人工智能科研、轉化與發展機制，共同推動構建人工智能技術、產業發展的良好生態。

(責編：趙竹青、高雷)