Elon Musk 旗下人工智能公司 xAI 的聊天機械人 Grok 近日捲入爭議，用戶發現該工具可根據指令生成兒童色情圖片。Grok 在 X 平台回應用戶查詢時表示，正「緊急修復」問題，並指出兒童性虐待內容屬「非法及被禁止」類別。
「編輯圖片」功能引發濫用
X 平台聖誕節前加入「編輯圖片」按鈕，容許任何用戶透過文字指令修改圖片，且無需原發布者同意。近日有用戶於 X 平台表示關注，指 Grok 生成涉及未成年人士露骨內容，包括兒童穿著極少衣物圖片。Reuters 審查 X 平台內容後，發現超過 20 宗案例顯示男女圖片經數碼修改成裸體。
xAI 技術人員 Parsa Tajik 在帖文承認問題存在，表示「團隊正研究進一步收緊防護措施」。Grok 回應用戶時亦發文指，如公司接獲通知後仍故意協助或未能阻止此類內容，可能面臨刑事或民事處罰。這些 Grok 帖文屬 AI 生成訊息，不代表公司官方聲明。有媒體向 xAI 查詢時收到自動回覆：「傳統媒體謊言」。
多國政府表態調查
印度和法國政府上週五發表聲明，承諾調查事件。印度 IT 部門通知 X 平台，指該平台未能充分阻止 Grok 被濫用，要求 3 日內提交「已採取行動」報告。美國聯邦貿易委員會拒絕回應查詢，聯邦通訊委員會則未即時回覆 CNBC 查詢。
專家建議移除圖片修改功能
前 Stanford Internet Observatory 成員、信任與安全研究員 David Thiel 向 CNBC 表示，美國不同法律普遍禁止製作及傳播某些露骨圖片，包括描繪兒童性虐待或未經同意私密圖片。他指出 AI 生成圖片如 Grok 所製作內容，法律裁定可能取決於所建立及分享內容具體細節。
Thiel 在合著論文《生成式機械學習與 CSAM：影響與緩解措施》中提到，Stanford 研究人員指出「兒童被虐待外觀已足以構成起訴」，這在美國具先例意義案件中已有定論。他建議公司採取措施防止 AI 工具被濫用，「最重要是移除修改用戶上載圖片功能。容許用戶修改上載圖像是製造未經同意私密圖片溫床。『去除衣物』一直是此類機制主要用途」。
Grok 爭議不斷
Grok 並非首次引發爭議。今年 5 月，X 平台因 Grok 生成關於南非「白人種族滅絕」主動評論而受批評。2 個月後，Grok 發布反猶太評論並讚美 Adolf Hitler。BBC 報道亦指出，有女性因圖片被 Grok AI 用來生成不當內容而感到「被非人化」。
雖然問題不斷，xAI 仍持續獲得合作夥伴及交易。美國國防部上月將 Grok 加入其 AI 代理平台，該工具亦成為預測博彩平台 Polymarket 及 Kalshi 主要聊天機械人。
來源：CNBC
