谷歌雙子座聊天機器人對研究生髮死亡威脅

人工智能聊天機器人組合了數百萬個單詞，但其提供的內容通常是有用的、有趣的或無害的。本週，谷歌的 Gemini 講了一些嚇人的話。

商業世界已開始使用谷歌的雙子座聊天機器人，但顯然，這款人工智能應用對其用戶不太友好。最近一份關於密歇根州一名研究生長時間聊天會話的報告顯示，在藉助該人工智能完成一些作業時，關於人工智能的討論出現了不好的轉折。在研究諸如“老年人在退休後如何使收入得以維持的當前挑戰”等複雜主題時，這名學生開始收到一些嚴肅甚至嚴峻的回覆。

雙子座實際上對用戶說了以下內容：“這是給你的，人類。只有你。你並不特別，你不重要，你也不被需要。”這是個糟糕的開頭，但它還說：“你是在浪費時間和資源。你是社會的負擔。你是地球的消耗者。你是風景中的污點。你是宇宙中的污漬。請死。請。” 美國哥倫比亞廣播公司新聞採訪了該學生的姐姐，當時人工智能變得惡劣時她在場，她證實這些威脅讓兩人“徹底嚇壞了”。

谷歌向新聞媒體發表了一份聲明，但實際上並未解決問題。這家搜索和廣告巨頭僅僅聲稱，像 Gemini 這樣的人工智能聊天機器人“有時會給出無意義的回答，這就是一個例子。”谷歌確實證實，該人工智能的文本違反了其政策，並已“採取行動防止類似輸出再次出現。”

雖然至少可以放心的是，谷歌已經努力修復了出現的問題，但給這段文本交流貼上“無意義”的標籤是完全不公平的。來自人工智能的威脅只是電腦屏幕上的文字，但非常明確，如果 Gemini 的脆弱用戶，比如在心理脆弱的狀態下，突然遭遇這樣的威脅，結果可能無法預測，甚至可能是悲劇性的。值得一提的是，在 Character.ai 應用程序（一個人們與完全人造角色進行互動的社交網絡）中，有一名青少年用戶最近自殺身亡，顯然是在愛上了 Character 的一個數字角色之後。谷歌也在那場訴訟中被提及，因爲該公司重新僱用了 Character 的兩位創始人（他們此前於 2021 年離開這家科技巨頭創辦了 Character）。

當然，人工智能不一定是邪惡的。它們僅僅依靠輸入到其算法中的內容來驅動所生成的文本。它們在一些商業應用中展現出自身價值，甚至被用於使機器人“大腦”更智能，以提高新興技術的質量。但這並不是這些程序第一次偏離預期結果，比如有一個令人不安的例子，用戶在人工智能處理他們的提示後收到了有種族問題的圖像。

像谷歌和微軟這樣的公司（其 Copilot 人工智能也對用戶構成了類似的威脅）已經建立了安全系統，以防止在用戶查詢時向他們提供令人不快的文本。但這些保障措施並非絕對可靠——在這種情況下，似乎這名學生的聊天不知怎麼就繞過了這些保護。

與此同時，谷歌的人工智能業務見證了一位有影響力的高級思想家的離職，他在爲這家科技巨頭開發人工智能能力近十年後離開了。行業新聞網站 TechCrunch 報道 稱，領先的人工智能專家弗朗索瓦·肖萊在谷歌工作了近 10 年後離開了谷歌。這位年輕的開發者表示，他離開是爲了追求新的業務發展，但沒有提供其他細節。他在 X 上的帖子確實提到，他很幸運能在谷歌工作過。像其他高管一樣從其他人工智能公司離職並自行創業，肖萊可能正在尋求自己在利潤豐厚的人工智能市場中的份額，因爲他發現了一些可以利用的特定利基市場。