馬斯克旗下 X 最近推出的 Grok 的聊天機械人生成器允許用戶通過文字提示生成各種圖像,並將其發布到 X 上。不少網民發現 Grok 可以生成暴力、仇恨或推廣危險活動的圖像,或引來歐洲委員會的關注。
▲Grok 的聊天機械人生成圖像奧巴馬持刀威脅拜登(圖片來源:The Verge)
訂閱了 X Premium 服務的用戶現在可以使用這個名為 Grok 的聊天機械人生成圖像,並分享各種引人注目的內容,例如奧巴馬持刀威脅拜登,馬斯克與米奇老鼠持槍及比爾蓋茨吸食毒品。
▲馬斯克與米奇老鼠持槍及比爾蓋茨吸食毒品(圖片來源:The Verge)
根據 Grok 的描述,工具設有特定防護措施,例如避免生成色情、過度暴力、仇恨或推廣危險活動的圖像,並謹慎處理可能侵犯現有版權或商標的內容。網民經多次測試後,上述限制似乎只是隨機生成的回答,並非真實存在的規則。即使該工具聲稱會拒絕生成某些敏感圖像,用戶仍然能夠找到漏洞來繞過這些限制。
相比之下,其他 AI 工具如 OpenAI 的產品則更為嚴格,除了拒絕生成涉及真實人物或有爭議性內容的圖像,還在生成的圖像中添加水印。Google 也因為過度修正種族和性別刻板印象而暫停其 Gemini 圖像生成功能。歐洲委員會正在調查 X 是否違反《數字安全法》。而在英國,Ofcom 亦準備開始執行《網絡安全法》。
資料及圖片來源:The Verge
相關文章:
Elon Musk 預告 xAI 新產品 大型語言模型 Grok 將推出兩個版本
分享到 :
最新影片
![](https://cdn.unwire.hk/wp-content/uploads/2024/09/ip16_web1-694x390.jpg)