馬斯克旗下 X 最近推出的 Grok 的聊天機械人生成器允許用戶通過文字提示生成各種圖像，並將其發布到 X 上。不少網民發現 Grok 可以生成暴力、仇恨或推廣危險活動的圖像，或引來歐洲委員會的關注。
▲Grok 的聊天機械人生成圖像奧巴馬持刀威脅拜登（圖片來源：The Verge）
訂閱了 X Premium 服務的用戶現在可以使用這個名為 Grok 的聊天機械人生成圖像，並分享各種引人注目的內容，例如奧巴馬持刀威脅拜登，馬斯克與米奇老鼠持槍及比爾蓋茨吸食毒品。
▲馬斯克與米奇老鼠持槍及比爾蓋茨吸食毒品（圖片來源：The Verge）
根據 Grok 的描述，工具設有特定防護措施，例如避免生成色情、過度暴力、仇恨或推廣危險活動的圖像，並謹慎處理可能侵犯現有版權或商標的內容。網民經多次測試後，上述限制似乎只是隨機生成的回答，並非真實存在的規則。即使該工具聲稱會拒絕生成某些敏感圖像，用戶仍然能夠找到漏洞來繞過這些限制。
相比之下，其他 AI 工具如 OpenAI 的產品則更為嚴格，除了拒絕生成涉及真實人物或有爭議性內容的圖像，還在生成的圖像中添加水印。Google 也因為過度修正種族和性別刻板印象而暫停其 Gemini 圖像生成功能。歐洲委員會正在調查 X 是否違反《數字安全法》。而在英國，Ofcom 亦準備開始執行《網絡安全法》。
資料及圖片來源：The Verge
