OpenAI 發表文章稱，於 2024 年 3 月至 5 月間成功阻止來自俄羅斯、中國、伊朗及以色列等國共 5 個惡意使用 AI 的活動。OpenAI 指這些活動利用 AI 影響輿論，但均在達到目的前被終止。
根據 OpenAI 的報告，這些活動包括利用 AI 生成政治性評論、文章及社交媒體帳戶資料等。以下為詳細內容：
俄羅斯政治活動「Bad Grammar」
俄羅斯用戶利用 AI 在 Telegram 上開發機械人，並自動發布政治性評論，主要針對美國、烏克蘭、波羅的海國家和摩爾多瓦。這些評論由 OpenAI 的模型生成，內容包括批評美國對烏克蘭的支持。
俄羅斯「Doppelganger」組織
Doppelganger 自 2022 年 2 月起，透過 AI 生成英文、意大利文、德文、法文及波蘭文的評論，並發布於 X 和 9GAG。這些評論主要與烏克蘭政府及納粹主義的相關話題，目的是分裂支持烏克蘭的國家。
中國網絡「Spamouflage」
Spamouflage 網絡利用 AI 生成多語言虛假評論及文章，並發布於 X、Medium 和 Blogspot 等平台。在開發揭露網站 revealscum[.]com 使用 AI 來為平台程式碼進行除錯工作。
伊朗政治網絡「國際虛擬媒體聯盟」(IUVM)
IUVM 利用 AI 生成長篇文章及網站標籤，並發布於其網站 iuvmpress[.]co，目的是影響伊朗境外的輿論。這些內容由多個 SNS 帳戶及網站聯合推廣。
以色列企業「Zero Zeno」
STOIC 是一間政治及商業諮詢公司，利用 AI 生成反以色列的評論，並在 Instagram、Facebook 及 X 等平台上發布。這些評論也由 AI 生成，目的是影響輿論。
OpenAI 表示，雖然這些活動並未顯著提升其受眾參與度或影響力，但仍顯示出 AI 在輿論操縱中的潛在威脅。OpenAI 將繼續監控並阻止此類惡意行為，確保 AI 技術的安全和負責任使用。
資料來源：OpenAI
玩具反斗城用 AI 生成宣傳短片 以 OpenAI Sora 模型製作 OpenAI 收購遙距協作平台 Multi 加速企業方案業務發展 OpenAI 向用戶發出警告停止 API 使用 不支援地區如香港及中國都被禁