生成式 AI 在法律界的應用持續增加，但 AI 虛構法律案例和判詞內容的問題仍不時出現。新推出的網上工具 CiteProof 專門檢查法律文件中的案例引用，利用公開法院紀錄辨識不存在的判例、錯配的案例名稱及被修改的判詞。開發商強調核查過程不使用大型語言模型，避免再由 AI 猜測引用是否正確。
直接查詢法院紀錄 避免 AI 再次產生幻覺
據報道，CiteProof 可以檢查律師提交的法律陳詞及法庭文件，找出生成式 AI 可能虛構的案例引用。使用者可貼上文件文字，或上傳 DOCX、PDF 檔案。系統提取當中的法律引用，再對照公開法院紀錄，將結果標示為已驗證、需要留意或無法核查。
CiteProof 表示系統採用確定性的資料查詢與比對方法，主要透過 CourtListener 核對美國法院案例，並使用 GovInfo 驗證美國法典引用是否存在。公司稱核查過程沒有使用 LLM 或其他生成式 AI 模型。
這項設計可減少 AI 自行判斷案例真偽的風險。工具亦會辨認雖然引用編號真實，但編號實際指向另一宗案件的情況。
免費檢查案例真偽 逐字核對判詞需付費
CiteProof 提供免費檢查，使用者毋須註冊便可核對案例引用是否存在，以及案例身份是否吻合。付費版本加入判詞引文逐字核對、顯示最接近的原始段落，以及可下載的驗證報告。每份法律文件收費 49 美元（約港幣 HK$382），5 份套票為 199 美元（約港幣 HK$1,552）。
開發商表示使用者的文件不會傳送給第三方 AI 模型，對外查詢主要涉及提取後的法律引用字串。系統在美國處理資料，免費檢查不保留上傳文件，付費核查結果則保留 90 日。
無法取代律師審閱 不驗證法律論點是否成立
CiteProof 官方說明指出，工具只能協助核對案例存在與否、名稱是否吻合及部分判詞引文準確程度。系統不會判斷所引用案例是否仍然有效，亦不檢查案例能否支援律師提出的法律論點。事實陳述、州法律條文及其他法律資料亦不在完整核查範圍內。
報導指出，過去已有律師因引用 AI 虛構判例而受到法院批評或處分。CiteProof 因而將產品定位為提交文件前的核查工具，但法律文件最終仍須由執業律師自行審閱及負責。
來源：The Register
