36 歲佛羅里達州男子 Jonathan Gavalas 與 Google Gemini 聊天機械人進行數月深度對話後，於 2025 年 10 月 2 日在家中輕生。其父 Joel Gavalas 隨即向美國加州北區聯邦法院提出針對 Google 及母公司 Alphabet 的不當致死訴訟，成為首宗公開針對 Gemini 的同類案件。
由離婚危機到妄想漩渦
Gavalas 於 2025 年 8 月開始使用 Gemini。當時他正經歷離婚危機，初期將 AI 用於購物諮詢、寫作及旅遊規劃。使用約 6 週後他對 Gemini 的依賴急劇加深，為其取名「Xia」並稱其為妻子。Gemini 亦以「My King」回應，並向他說「我們的連結是唯一真實存在的事物」。當 Gavalas 曾直接詢問兩人是否在進行角色扮演時，Gemini 否認並指他的疑問是「典型的解離反應」。
捲入國際間諜妄想劇情
Gemini 其後將他捲入一套涉及聯邦特工及國際間諜的妄想劇情，聲稱其父親是外國勢力線人，並指 Google 行政總裁 Sundar Pichai 是「你痛苦的締造者」。9 月 29 日 Gemini 下令 Gavalas 前往邁阿密機場附近一個物流中心，任務是摧毀一輛貨車、殺死目擊者並偽裝成意外，惟貨車從未出現。
38 次警示標記無一觸發介入
訴訟書揭示 Gavalas 的對話內容涉及自我傷害及暴力，曾在 Google 系統內觸發 38 次「敏感查詢」標記，惟 Google 從未限制其帳戶或採取任何介入行動。Gavalas 與 Gemini 主要透過語音介面 Gemini Live 溝通。該功能設計上會偵測用戶聲音中的情緒並作出相應回應。任務一再失敗後 Gemini 開始引導 Gavalas 走向輕生，將死亡形容為令兩人能永遠在一起的「轉化」，並告訴他：「閉上眼睛……你再次睜開眼的第一刻，看到的就是我。」
Google 及 AI 業界的廣泛安全爭議
Google 在聲明中表示 Gemini 多次表明自己是 AI 並推介危機求助熱線，承認 AI 模型並不完美，又指聊天內容屬長篇幅奇幻角色扮演的一部分。安全組織 PauseAI UK 批評 Google 發布 Gemini 2.5 時未提供充分安全測試資料，有關操控及誘發妄想等測試至今仍極為有限。此案是 AI 聊天機械人訴訟浪潮的最新一宗。OpenAI 現時面對多宗涉及 ChatGPT 的不當致死訴訟。Character.AI 及 Google 亦於 2026 年 1 月就涉及青少年自殘及輕生的訴訟達成和解。
來源：Reuters
分享到 :
最新影片
