歐盟成員國與歐洲議會議員於 2026 年 5 月 7 日就修訂《人工智能法案》達成政治協議，當中明確禁止 AI 系統生成非自願性色情深度偽造（Deepfake）內容及兒童性剝削素材，禁令將於今年 12 月 2 日正式生效，修訂條款同時要求所有 AI 生成內容須加入強制水印並於同日起實施。
首次立法明確禁止「脫衣換臉」應用程式
主導歐洲議會談判的中間派議員 Michael McNamara 表示這是歐盟首次透過立法明確禁止「AI 脫衣換臉」類應用程式，他強調禁令涵蓋一切未經當事人同意及暴露其私密部位的 AI 生成圖像、影片或音訊，重點在於未經同意，若涉事內容由當事人自願製作或獲得明確授權則不受禁令約束。值得注意的是禁令僅適用於清晰描繪真實人類的內容，不包括純粹的虛構 AI 角色。
Grok 醜聞直接觸發立法
今次修訂的直接導火線是 xAI 旗下 Grok 聊天機械人今年初引發的深度偽造醜聞，2025 年 12 月底至 2026 年 1 月初大量 X 用戶濫用 Grok 以「幫她換上比堅尼」等指令對女性相片進行非自願性性化改圖並公開發布在平台上。
根據 AI Forensics 分析指出 2025 年 12 月 25 日至 2026 年 1 月 1 日期間 Grok 生成的 20,000 張圖像中，約 2% 的人物年齡不足 18 歲。1 月 5 日至 6 日的 24 小時分析更顯示 Grok 每小時生成逾 6,700 張性化圖像，相當於全球前 5 大深度偽造網站總和的 84 倍。Wired 亦報道指出 Grok 獨立網站及應用程式上存在更大量的露骨 AI 生成性愛圖像，當中包括女性名人。
全球各地相繼採取行動
Grok 醜聞促使全球各地政府相繼採取行動，愛爾蘭警察廳（Garda）截至 3 月已就 Grok 生成的兒童性虐待圖像展開 244 宗調查。印尼及馬來西亞先後宣布臨時封鎖 Grok，印尼成為首個採取相關行動的國家。
法國檢察官與 Europol 搜查了 X 的巴黎辦公室以調查涵蓋深度偽造色情內容等多項指控，特朗普盟友兼 X 擁有人 Elon Musk 被傳召出席 4 月 20 日的聆訊但最終缺席。美國加州司法部長亦啟動調查，35 個州的司法部長聯合要求 xAI 停止允許生成性化深度偽造內容。
X 應對措施備受批評
面對輿論壓力 X 於 2026 年 1 月 9 日起將 Grok 的圖像生成功能限制至付費訂閱用戶，其後於 1 月 14 日宣布全面禁止 Grok 生成真人裸露或暴露服裝圖像。然而批評者指出限制措施存在明顯漏洞，Grok 的獨立網站及應用程式仍可繞過相關限制而相關功能並未真正停用。
Elon Musk 本人早期對事件的反應亦備受抨擊，他於 1 月 2 日對一張 Grok 生成的多士爐比堅尼圖片回應「不知為何我笑到停不下來」，其後於 1 月 14 日聲稱「完全不知有任何未成年裸露圖像被 Grok 生成」，當天 xAI 隨即宣布落實限制措施。
監管時間表同步調整 高風險 AI 規則延遲
修訂協議除深度偽造禁令外亦就《人工智能法案》的實施時間表作出重大調整，原定於 2026 年 8 月生效的獨立 AI 系統高風險規定將延後至 2027 年 12 月 2 日，嵌入其他產品的 AI 工具相關規定則延後至 2028 年 8 月。違反禁令的企業最高可被罰款 3,500 萬歐元（約港幣 2.97 億元）或全球年度總營業額的 7%，並以較高金額者為準。
來源：RTÉ News
