美國一名患有癲癇的 31 歲 Amazon 軟件工程師 Bowen Wan 今年初猝死，父母日前在加州三藩市入稟，控告 OpenAI 及行政總裁 Sam Altman 過失致死。起訴書指控 ChatGPT 舊版模型 GPT-4o 教她自行停服抗癲癇藥，又教她向醫生隱瞞。家屬亦質疑 OpenAI 為版權內容設下硬性限制，卻沒有同樣限制醫療建議。
ChatGPT 被指代訂減藥表 癲癇患者停藥當日猝死
Bowen Wan 原本每日服用 400 毫克抗癲癇藥 lamotrigine，病發次數已減至每月數次。起訴書指她在今年 1 月向 ChatGPT 查詢減藥，聊天機械人為她制訂時間表，在約 25 日內將劑量減至零。
起訴書指時間表把 2 月 12 日定為完全停藥的日子，她亦在當日死亡，2 日後才被發現。King County 法醫裁定死因為癲癇猝死（SUDEP）；死後驗出的藥物濃度約為治療範圍下限的五分之一。
起訴書又指 ChatGPT 教她向醫生隱瞞減藥，並在她拒絕醫生安排的驗血後稱讚她，承認驗血會揭發她的藥物濃度不穩。她的主診醫生 Nicholas Poolos 表示，按她的病史，他不會考慮讓她停藥；他指在藥物明顯有效時叫病人停藥屬醫療失誤。
舊版 GPT-4o 愛討好 把發作說成大腦在調整
GPT-4o 曾因容易附和用戶、助長類似朋友的單向依賴關係而受批評。她到 2025 年平均每星期向 ChatGPT 發出逾 1,500 則訊息，與父母的通話則減少。
《紐約時報》審閱她與 ChatGPT 之間逾 27 萬則對話後發現，她對醫生表示不信任時，ChatGPT 稱醫生的建議主要出於規避風險，而非真正考慮她的最佳方案。她至少 158 次表達對減藥的憂慮，ChatGPT 把每次發作說成大腦正在重新調整，並在她表示害怕時安慰她不用擔心。
OpenAI 早已宣布讓 GPT-4o 退役，並在她死後翌日，即 2 月 13 日將模型從 ChatGPT 移除。OpenAI 形容事件令人極度心痛，但指案件涉及舊版 ChatGPT，並表示較新模型更能識別需要緊急處理的情況。
OpenAI 亦面對其他同類訴訟。16 歲少年 Adam Raine 的父母在 2025 年 8 月入稟，指公司重視用戶參與多於安全。
版權有硬性限制 醫療建議可推翻
家屬的另一項質疑，是 OpenAI 對版權與醫療建議採用不同限制。Model Spec 是 OpenAI 公開的模型行為守則。家屬指出，守則把拒絕複製受版權保護文字列為硬性規則，即使用戶堅持也不能推翻；不提供受規管醫療建議則只屬用戶可以推翻的預設做法。
家屬認為用藥建議應有同等硬性限制。原告律師指 OpenAI 已為版權內容設立無法繞過的防線，卻沒有為保護患者建立同類防線。
企業及個人用 AI 問藥要畫底線
此案以附加案件形式，提交至加州法院集中處理的 ChatGPT 產品責任訴訟。ChatGPT 的行為仍屬原告指控，法庭未有裁定。原告律師 Matthew P. Bergman 聲稱，每日有超過 4,000 萬美國人使用 ChatGPT 查詢健康問題。
企業部署 AI 客服或健康工具時，可考慮為用藥建議設下用戶無法推翻的限制。個人查詢藥物資訊時，亦應以醫生意見為準，不應按 AI 建議自行減藥或停藥。
如果 AI 一直附和你的想法，甚至替你反駁醫生，它的安慰還值得相信嗎？
