美國佛羅里達州一名 25 歲男子，因在與 ChatGPT 對話時詳細描述強奸並謀殺前女友的計劃，遭到 OpenAI 主動向美國聯邦調查局（FBI）舉報。涉案男子名為 Darren Zhou，原為投資銀行 Goldman Sachs 的金融分析師。警方接獲舉報後於 5 月將其拘捕，被告最終與檢方達成認罪協議，獲判 8 年緩刑。
聊天紀錄揭極端控制欲 由分手傾談演變成暴力威脅
法庭文件顯示，Darren Zhou 於 3 月前女友因其嫉妒心強及控制欲過度提出分手後，開始頻繁使用 ChatGPT 傾心事。起初他主要記錄前女友行程、愛好及去處，並表達嫉妒與復合渴望。對話內容隨後急劇惡化，出現大量涉及強奸、謀殺及自殺的字眼，包括「本月底前要殺了她」、「我得不到她，誰也別想得到」等威脅字句。他更向 AI 聲稱擁有 AR-15 步槍、Glock 手槍及 12 口徑獵槍，並已向女方傳送武器與束縛工具相片。
OpenAI 安全團隊介入舉報 判處 8 年緩刑及佩戴電子腳鐐
OpenAI 系統偵測到高風險對話後，由內部安全團隊審核內容，並向 FBI 發出緊急警報。執法人員獲取兩個月的對話紀錄後，隨即確認女方安全並於 5 月將周男拘捕，周男被捕後曾交出 10 萬美元（約港幣 78 萬元）保釋金，Goldman Sachs 亦隨即將其解僱。Zhou 於 8 月 13 日對網絡跟蹤及書面勒索等指控認罪，獲判 8 年緩刑，其中首 2 年須佩戴電子腳鐐，同時須接受心理評估及家庭暴力干預療程，並嚴禁接觸前女友或持有槍械。
來源：ChosunBiz
