有調查報道揭露，OpenAI 一直聘請數百名外判合約審核員，以人手閱讀 ChatGPT 用戶真實對話記錄，透過評分方式協助改善 AI 回應質素。該內部項目代號為「Project Lily」，審核員接觸到的對話雖然經過匿名處理，但仍有機會夾雜用戶個人資料，甚至包括曾要求 ChatGPT「保密」的內容。
審核員工作範疇 時薪逾 50 美元審核 AI 人性化程度
專門科技媒體 404 Media 取得的內部指引文件、Slack 頻道紀錄及真實對話樣本顯示，這批被稱為「prompt reviewers（提示詞審核員）」的合約工，工作流程大致分三步：先閱讀用戶提問，總結對方真正想問的內容，然後為 ChatGPT 生成的 4 個候選回應，以 1 至 7 分評分並解釋原因。
評分準則相當仔細，包括回應是否真正解答問題、有否過度使用「AI 腔」、說教語氣、表情符號或阿諛奉承（sycophancy）等。OpenAI 明文規定 ChatGPT 不能「擬人化」——例如可以講「我搜尋到相關資料」，但不可以講「作為廚師，我鍾意……」或「我明白嗰種感受」，避免令人誤以為 AI 擁有真實個人經歷。
審核員透過第三方人力公司聘請，時薪可達 50 美元以上（約港幣 HK$390）。有審核員向 404 Media 反映，工作內容相當機械式重複，而且指引不時修改，甚至互相矛盾。
「匿名」亦未必安全 用戶對話恐洩露位置及身份資料
雖然 OpenAI 聲稱對話交給審核員前，會先經由自動化「私隱過濾器（Privacy Filter）」處理，隱去用戶名稱及識別資料，但公司向 404 Media 承認機制並非萬無一失，尤其在較短對話中，個人資料仍有機會漏網。
更值得關注的是審核員看到的對話介面，附有一份「用戶記憶摘要（user memories summary）」，內容總結該用戶過往提問興趣、使用情境，甚至可能透露大致所在地區。換言之即使對話本身經過匿名處理，配合這份摘要後，用戶身份仍有機會被起底。報道亦指出，不少用戶曾在對話中要求 ChatGPT「呢件事我哋知就好」，但對話內容顯然依然進入人手審核流程。
需要留意的是 Project Lily 審核員並非負責核實 ChatGPT 回答的事實準確性，只會標記明顯錯誤。OpenAI 內部估計另有團隊專責把關事實核查及安全風險，例如防止用戶自我傷害等範疇。
除了 OpenAI 以外 Google 與 Anthropic 亦有人手審查機制
事實上人手審查用戶對話並非 OpenAI 獨有做法。Google Gemini 私隱中心明確表示「人類可能會審查部分已儲存的對話」；Anthropic（Claude 開發商）亦有專門頁面解釋類似機制，並向 404 Media 確認採用人手審查。相比之下，Perplexity 私隱政策則未有清楚交代是否有人手審查對話內容。
至於用戶常見的「允許使用你的對話改善產品」設定，在大部分消費版 AI 聊天機械人中預設開啟，只有企業、商業及教育版帳戶才預設關閉。即使事後手動關閉設定，亦不會影響過去已收集的對話記錄；就算用戶刪除對話，對話內容亦可能早已被系統匿名處理並存放於模型訓練資料集內，未必能夠徹底清除。
事件曝光後，OpenAI 未有直接回應是否有明確告知用戶對話會經人手審查，僅提供一份至少有 2 年歷史的舊 FAQ 頁面作解釋。報道刊出後，OpenAI 隨即更新說明頁面，交代用戶如何取消資料收集，但依然未有提及聘用人手審核員一事。
資料來源：404 Media
