在連續數週遭受消費者及政界人士強烈反彈，加上多國監管機構展開調查後，Elon Musk 旗下 xAI 在 1月 14日深夜宣佈 Grok 將不再允許用戶根據提示生成真實人物不雅圖像。xAI 透過 X Safety 帳戶發布聲明，表示已採取技術措施防止 Grok 編輯真實人物穿著比基尼等暴露服裝圖像，並在禁止此類行為司法管轄區內實施地區封鎖。限制適用於所有用戶，包括付費訂閱者。
限制措施遭批「裝門面」實際效果成疑
xAI 聲稱已將 Grok 圖像生成及編輯功能限制為付費訂閱者專屬，期望藉此阻止匿名用戶濫用。不過多家媒體實測後發現免費用戶仍可透過多種途徑生成圖像，包括 Grok 獨立網站 (Grok.com)、獨立應用程式，以及 X 桌面版或手機應用程式內「編輯圖像」按鈕。xAI 實際上只限制在 X 平台上透過 @grok 標籤公開回應功能，而非完全封鎖圖像生成能力。愛爾蘭 AI 部長批評這項措施是「裝門面」，英國首相辦公室更指出，這實際上是「將促進製作非法圖像 AI 功能變成付費服務」。
加州檢察總長展開調查
加州檢察總長 Rob Bonta 在同日稍早表示，其辦公室正調查總部設於矽谷的 xAI，原因是該公司涉嫌「大規模製作未經同意親密圖像深偽內容」。Rob Bonta 指出「近數週有關 xAI 生成並在網上分享未經同意性暗示內容大量報告令人震驚」，這些內容「包括女性和兒童處於裸體和性暗示場景圖像，已被用於在網上騷擾個人」。
加州州長 Gavin Newsom（他過往經常支持 Elon Musk 及其公司）也在 X 上發文批評，稱「xAI 決定建立並託管一個讓掠食者傳播未經同意性暗示 AI 深偽圖像溫床，包括數碼脫衣兒童圖像，實在令人作嘔」。
多國監管機構採取行動
近數週，印度、馬來西亞、印尼、愛爾蘭、英國、法國、澳洲及歐盟委員會相繼宣佈展開調查。印尼和馬來西亞更成為首批完全封鎖 Grok 國家。英國商務大臣 Peter Kyle 在 1月 13日接受電台訪問時表示，由於英國法例禁止分享未經同意性圖像及兒童不雅圖像，政府「當然」會考慮完全封鎖 X 平台。
英國通訊監管機構 Ofcom 在 1月 13日宣佈已與 X 和 xAI「緊急聯繫」，評估其是否遵守保護用戶法律義務，並將根據公司回應進行快速評估。法國檢察官也已擴大對 X 刑事調查範圍，將深偽指控納入其中。
數據顯示問題嚴重性
巴黎非牟利組織 AI Forensics 上週公佈分析報告顯示，在檢視超過 20,000 張 Grok 生成圖像後，發現超過一半圖像描繪穿著「極少衣物」個人，其中大多數為女性，2% 似乎是未成年人。用戶只需透過簡單提示如「remove her clothes」或「put her in underwear」，便能使用 Grok 「Spicy Mode」建立性暗示內容。
在美國，3 名民主黨參議員呼籲 Apple 和 Google 將 X 和 Grok 應用程式從應用商店下架，直至該公司作出改變，防止輕易製作未經同意露骨圖像。根據去年由總統特朗普簽署 Take it Down Act，製作此類未經同意親密圖像創作者可能面臨與兒童性虐待材料相關刑事指控，並可能面臨罰款和監禁。
資料來源：CNBC
