防範“AI公然說謊”亟待平臺盡更多責

自2025年1月1日起，寧波市將免費乘坐公交車的年齡從70週歲降低至65週歲……”如果你通過AI諮詢“多大年紀的老年人在寧波可以免費乘坐公交”相關問題，可能會獲得這樣的回答。然而，這個看上去有鼻子有眼的回答，卻是一條徹頭徹尾的假消息。

近年來，生成式AI迅速進入我們的生活 通過簡單提問，就 ——能快速生成文本、圖片、音頻、視頻和虛擬場景，已廣泛應用於多個方面。與此同時，涉及AI造假、造謠的現象也日益增多，例如AI假冒名人帶貨事件已發生多起，AI生成的假消息同樣不少，對公衆造成誤導，擾亂了社會秩序。

詢問同樣一個問題，爲何不同AI軟件給出不同答案，有的爲何公然說謊？有AI軟件客服表示，目前這類軟件存在較多侷限性，生成內容可能不準確，正在持續優化相關模型體驗。筆者以爲，這應該與某些AI軟件大模型在採集數據時“鬍子眉毛一把抓”、沒有側重權威渠道有關。

而且某些AI軟件生成的內容除不實外，還存在語句不通、錯別字較多等常識性弊病，反映出這些AI軟件目前尚不成熟。對此，我們既要以包容心態來看待，鼓勵其不斷髮展、走向成熟，同時也有必要提醒相關平臺以負責任態度完善技術手段，儘可能減少或避免“AI公然說謊”等問題。

從現實情況看，防範“AI公然說謊”等問題，需要平臺在對AI軟件生成的內容進行顯著標識外，同時提醒用戶通過權威渠道去核實信息。應根據不同情況完善AI大模型，並明確其數據採集源頭，比如涉及公共服務的數據就應依託權威渠道採集、使用。

作者：馮海寧 來源：《湖南日報》

編輯：林夕