AI 圖像生成工具越來越先進，已經達到能夠以假亂真的程度，因此也令人擔心會被濫用來製作假資訊。OpenAI 有見及此就開發了 AI 生成圖片偵測器，方便分辨真假照片。
據 OpenAI 表示，這個工具能夠以約 98% 的準確率確定圖像是否由其 DALL-E 3 生成器製作，而且就算圖像經過裁剪、壓縮或色彩飽和度調整，偵測器仍然有效。不過如果不是 DALL-E 3 製作的圖像，例如 Midjourney 等等，其準確度就會大幅下降，只有 5% 到 10% 圖像能被準確分辨。
此外，OpenAI 正在實施一種防篡改水印技術，該技術可對音頻內容進行隱形標記，有助於驗證其來源。不過類似的工具雖然有一定需求，但仍然有相當大的改善空間，之前 OpenAI 曾經開發用於識別 AI 生成文字的工具，不過其準確度偏低因此最後被放棄，至今也仍然沒有能夠準確分辨 AI 生成文字的工具。取而代之的是內容出處和授權聯盟（C2PA），打算透過將內容憑證嵌入圖像元數據來標註 AI 生成內容。
來源：OpenAI
