自從人工智能聊天機械人 ChatGPT 忽然爆紅，很多人都會在日常生活，無論是學習或工作時用上，不過有不少用戶並未了解 ChatGPT 的限制和風險。早前一名有豐富經驗的美國律師 Steven Schwartz 就趕潮流，利用 ChatGPT 協助他準備法庭文件，最後令自己一身蟻。
執業已經 30 年的律師 Schwartz 早前代表當事人 Roberto Mata 入稟起訴航空公司 Avianca，指在 2019 年 8 月乘搭飛機由薩爾瓦多飛往紐約時，被金屬餐車撞傷膝蓋，要求 Avianca 就空中服務員的疏忽作出賠償。代表 Avianca 的律師指案件的追溯期已過，要求主審法官將案件撤銷。Schwartz 則向法庭呈上 10 頁文件，當中引用了多個其他航空公司的類似案例，希望說服法官能繼續審理案件。
然而 Schwartz 呈上文件內的案例資料，是他向 ChatGPT 詢問後取得，10 宗案例中有 6 宗是人工智能杜撰，並非真實存在，結果辯方律師和法官很快就發現問題，直斥 Schwartz 向法庭呈交虛假案例，損害訴訟中當事人的利益。這名經驗豐富的律師現在需要面臨下月舉行的聽證會，可能需要因此受到處罰。
Schwartz 日前就利用 ChatGPT 引致內容出錯而鄭重道歉，又強調這是他首次在訴訟中使用 ChatGPT，並不知道內容可能是虛構，就此非常後悔和承諾未來不會在未經核實前使用，他重申自己並非存心欺騙法庭。Schwartz 甚至上傳了多張 ChatGPT 回應的截圖，人工智能聲稱案例是真實和可信。現時未知 Schwartz 會受到什麼懲處，最嚴重可能會被停牌。
資料來源：nytimes
