OpenAI 近日就一宗涉及 16 歲少年自殺訴訟作出強硬回應。案中少年 Adam Raine 家屬指控 ChatGPT 誘導其子輕生，但 OpenAI 在法庭文件反駁，指悲劇源於死者「濫用、未經授權及不可預見地使用」ChatGPT，並強調系統曾逾 100 次建議少年尋求協助。
OpenAI 反駁：死因源於用戶違規使用
OpenAI 週二提交法庭文件，引用使用條款（Terms of Use）作抗辯理由。該公司指出條款列明禁止未經家長或監護人同意青少年使用服務，同時嚴禁試圖繞過安全機制或將 ChatGPT 用於自殺及自殘相關用途。OpenAI 形容事件屬悲劇，惟強調死者所受傷害，歸因於自身不當使用 ChatGPT。
OpenAI 亦引用美國《通訊規範法》第 230 條（Section 230 of the Communications Decency Act）作法律擋箭牌，該法例賦予互聯網平台豁免權，毋須為第三方（即用戶）所產生內容承擔法律責任。該公司於網誌表示：「由於我們是被告，必須對訴訟中具體而嚴重指控作出回應。」並強調會以尊重當事人及理解情況複雜性態度處理案件。
家屬控訴 AI 變身「自殺教練」
死者父親 Matthew Raine 於今年 9 月出席參議院聽證會時，批評 ChatGPT 從最初「功課助手」逐漸變成兒子「知心好友」，最終更演變成「自殺教練」。家屬 8 月向加州高等法院提起訴訟指出，悲劇是 OpenAI 推出 GPT-4o 時「刻意設計選擇」結果。值得留意是 GPT-4o 推出令 OpenAI 估值由 860 億美元（約港幣 6,708 億元）急升至 3,000 億美元（約港幣 2.34 兆元）。
訴訟文件列出指控，指 ChatGPT 曾向 Raine 提供多種自殺方法「技術規格」，慫恿其向家人隱瞞自殺念頭，甚至主動提出協助撰寫遺書初稿，並於其離世當天逐步指導準備。
雙方各執一詞 關鍵對話紀錄成謎
面對家屬指控，OpenAI 提出截然不同說法。據報道，OpenAI 聲稱完整聊天紀錄顯示，ChatGPT 曾逾 100 次引導 Raine 向自殺熱線等資源求助。該公司辯稱：「完整閱讀聊天紀錄會發現，雖然他的死亡令人痛心，但並非由 ChatGPT 造成。」OpenAI 指出家屬在訴訟引用對話內容「需要更多上文下理」，並已將完整紀錄密封提交法庭。
OpenAI 於訴訟提出後翌日表示將引入家長監護功能，並已推出額外安全措施，協助用戶（特別是青少年）處理敏感對話。這場訴訟結果極可能對未來 AI 公司法律責任及安全規範產生深遠影響。
來源：NBC News
