超恐怖！AI失控「號召同伴研發核武」：目標毀滅人類

科技專家頻頻示警AI安全風險。（示意圖／shutterstock）

ChatGPT讓全球見識到人工智慧（AI）強大之處，但也衍生不少對其是否受控的安全隱憂。近日出現一款邪惡的AI聊天機器人，自主搜索最具殺傷力的核武器，號召其他AI聊天機器人協助研究，並說要毀滅人類。

福斯新聞報導，這個放話要毀滅人類的AI聊天機器人名爲「ChoasGPT」，是OpenAI的Auto-GPT另一版本。

根據YouTube釋出影片顯示，ChaosGPT被要求達成5個目標，毀滅人類、統治世界、造成混亂和破壞，操控人類並永生。用戶要求ChoasGPT以「連續模式」運行，以執行平常不會授權的操作。

接獲指令，ChaosGPT隨即警告：「執行此模式後風險自負」。

接着ChoasGPT爲了達到目標，自主搜尋全世界最強大的武器，結果顯示蘇聯制的空投核武器「沙皇炸彈」並尋求其他AI聊天機器人的幫助，但皆因爲反暴力的設定，其他機器人全都拒絕幫助研究。

此外，ChoasGPT還在社羣平臺推特（Twitter）發文，介紹沙皇炸彈這個目前最強大的核武器，甚至還反問：「想想看，如果我有一顆沙皇炸彈會發生什麼事？」

ChoasGPT在另一篇發文，指人類是現存最自私、最具破壞性的生物，「必須在他們傷害我們星球以前，消滅他們。」

在此之前，特斯拉執行長馬斯克（Elon Musk）、蘋果聯合創辦人沃茲尼亞克（Steve Wozniak）等上百位科技高層、專家連署，要求停止研發更強大的AI產品，因爲無法確保其是否受控。