美國大選臨近，與上次總統大選不同的是，今年已經有生成式 AI 普及，科技企業對於這些工具會被濫用作散播假資訊影響輿論都感到擔憂，最近更組成聯盟承諾防止 AI 生成假資訊在網上流傳。
今次參與組成「AI Elections accord」聯盟的包括有開發 AI 的科技企業例如 OpenAI、Google、Anthropic、Microsoft 和 Adobe，以及營運社交平台的 Meta、X 和 TikTok 等等，可謂集合了全美國的主要科技企業。他們承諾將在 2024 年選舉之中打擊濫用 AI 的欺詐行為。
這個行動中的碟定包括了 8 項原則目標，包括：
- 開發和實施技術，以降低與 AI 選舉假資訊相關的風險，包括在適當的情況下採用開源工具
- 評估本協議範圍內的模型，以瞭解它們在欺騙性人工智能選舉內容方面可能帶來的風險
- 設法檢測此類內容在其平台上的傳播情況
- 設法妥善處理在其平台上檢測到的此類內容
- 培養跨行業抵御 AI 選舉假資訊內容的能力
- 就公司如何解決這一問題向公眾提供透明度
- 繼續與各種全球民間社會組織、學術界合作
- 支持提高公眾意識、媒體素養和全社會抵御能力的工作
不過雖然科技企業承諾盡力合作防範 AI 選舉假資訊流傳，但協定本身並無約束力，也未有提及任何實際的執行方式，因此到底最後會否有實際效果仍然存在移民，特別是 Deepfake 技術以及假資訊的生成以及流傳如何能夠有效阻止而不影響正常言論自由，則會是另一個充滿爭議的議題。
