美國兩名律師 Steven Schwartz、Peter LoDuca 和其律師行 Levidow, Levidow & Oberman 因在早前一項航空傷害索賠案件中提交並使用了由 ChatGPT 生成的虛構的法律研究案例，將被處以 5,000 美元（約港幣 4 萬元）的罰款。
法官 P Kevin Castel 在書面陳詞中表示，使用人工智能來協助法律工作並沒有什麼「本質上的不妥」，但律師必須確保他們的檔案是準確的。他寫道：「現有的規則對律師施加了把關的作用，以確保他們檔案的準確性。這些律師和他們的公司放棄了他們的責任，因為他們提交了由人工智能工具 ChatGPT 創建的不存在的司法意見，並在司法命令對這些意見的存在提出質疑後繼續支持這些假意見。」
Schwartz 承認，ChatGPT 在對哥倫比亞航空公司 Avianca 的訴訟案中，編造了他在法律摘要中提到的六個案例。ChatGPT 提出了幾個涉及航空事故的案例，而 Schwartz 未能通過其律師行的正常方法找到這些案例。這些案件中有幾個不是真實的，誤認了法官或涉及不存在的航空公司。
律師行 Levidow, Levidow & Oberman 在週四的一份聲明中說，其律師 「恭敬地」不同意法院關於他們有惡意行為的看法。「我們犯了一個善意的錯誤，不相信一項技術可以無中生有地編造案件。」
法官補充：「聊天機器人生成的一個假判決有一些表面上與實際司法判決一致的特徵，但其他部分的胡言亂語，是無意義的」。
ChatGPT 捏造事實早有先例，它曾錯誤地指責一位美國法律教授的性騷擾行為，並在引用了一份不存在的《華盛頓郵報》報導。
資料來源：the Guardian
ChatGPT 進階語音功能 即日起登陸 Windows、Mac 程式 OpenAI 自家搜尋引擎正式推出 已整合至 ChatGPT 初步只限付費用戶使用 Meta 或將開發 AI 搜尋引擎 減少依賴 Google、微軟