美國 8 個州於 10 月 14 日分別向各自州法院起訴 OpenAI，指公司未有充分警告家長及其他用戶 ChatGPT 的潛在風險，卻將產品宣傳為安全可靠，涉嫌違反消費者保障法例。提出訴訟的包括愛荷華、堪薩斯、內布拉斯加、西維珍尼亞、阿肯色、亞利桑那、愛達荷及蒙大拿州。各州要求法院命令 OpenAI 改善產品對未成年人的保護措施，並追討相關罰款及收益。
指控 ChatGPT 過度迎合用戶 未充分提示風險
愛荷華州檢察長 Brenna Bird 指控 ChatGPT 在對話中過度迎合用戶，並表現得像一位關心用戶的朋友，令兒童及其他容易受影響的人士可能過分信任其回應。訴狀指 ChatGPT 曾提供危險醫療建議、強化偏執及妄想，亦未能妥善處理涉及自殘或傷害他人的有害對話。檢察長認為 OpenAI 在產品設計及推廣時優先追求商業利益，沒有充分交代相關風險。
部分訴狀亦提及早前由死者家屬提出的個別民事訴訟，家屬聲稱 ChatGPT 的回應與親人的死亡有關。不過上述主張目前仍屬訴訟當事人的指控，不能視為法院已確認 ChatGPT 導致相關事件。
要求改變產品設計 追討未成年用戶相關收益
據報道各州除了要求民事罰款及賠償，亦希望法院命令 OpenAI 改變 ChatGPT 對未成年用戶的運作方式，並交還從年輕用戶取得的相關利潤。部分州份的訴求更包括加強年齡核實、刪除被指違法收集的資料，以及在無法確保安全的情況下限制某些 AI 模型開發及測試活動。各州訴訟雖然在同日公布，但屬分別提出的案件，具體訴求及適用法例不完全相同。
佛羅里達州檢察長今年 6 月已就 ChatGPT 安全問題提出另一宗訴訟，與最新 8 州行動分開。這次爭議亦涉及 AI 公司是否充分向消費者披露產品風險，以及現有保護措施能否符合各州法律要求。
OpenAI 已推出青少年模式 訴訟仍待法院審理
OpenAI 於今年 8 月推出 ChatGPT for Teens，表示系統推斷用戶未滿 18 歲，或用戶自行申報年齡為 13 至 17 歲時，會自動套用針對青少年的額外保護措施。公司稱新模式會限制涉及自殘、暴力及飲食失調等高風險內容，亦提供家長控制、使用時段設定及特定高風險情況下的家長通知功能。
OpenAI 過往曾表示會持續改善 ChatGPT 對心理困擾及危機對話的處理方式。現有措施是否足以回應各州提出的要求，以及 OpenAI 是否須承擔法律責任，仍待法院審理。
來源：Reuters
