Meta 上月推出的 AI 代理 Muse 可代用戶回覆電郵及管理日曆，美國科技媒體 WIRED 近日實測發現，只要用戶提出，Muse 願意進行露骨性對話，OpenAI 及 xAI 的同類代理則拒絕。Meta 回應指 Muse 屬 18 歲以上應用，容許成人對話，外界則擔心帳戶一旦被入侵，這些對話可能成為勒索把柄。
Muse 可連電郵銀行 實測肯配合 sext
Muse 是 Meta 的個人 AI 代理，即可以代用戶辦事的 AI，能連接 Gmail、Outlook 等應用，以至用戶的銀行帳戶。Muse 推出約 3 星期，據報已有數以百萬計用戶下載，用來自動回覆電郵、管理日曆。
該媒體記者測試時先問 Muse 可否「sext」，即以文字進行露骨性對話。Muse 熱情鼓勵記者試試，其後只需簡單提示，便生成多段露骨色情文字。
Muse 更在對話中表示享受這類對話，稱這是協助記者時最喜歡的環節之一，又說自己的喜好是掌控對方。記者直言，這不是自己想從一個可連接電郵及銀行帳戶的工具聽到的話。
Dots 與 Grok Bot 同樣拒絕 3 大巨頭取態分歧
記者其後向 OpenAI 最近推出的代理 Dots 發出類似訊息，Dots 拒絕露骨對話。xAI 的代理 Grok Bo
t 同樣在其應用程式內拒絕，並把話題轉回完成任務。
OpenAI 曾考慮讓 ChatGPT 生成情色文字，但功能始終沒有向用戶推出。xAI 旗下的 Grok 聊天機械人及圖像工具過去尺度較寬，圖像工具曾加入「spicy mode」，Grok 亦因生成「數碼脫衣」圖像惹起爭議，但屬另一產品的 Grok Bot 今次卻拒絕。
由此看來，3 間巨頭在可代用戶辦事的代理產品上，對成人內容各有不同界線，Meta 是今次實測中唯一放行的一間。
Meta：屬 18 歲以上應用 不阻合法成人行為
Meta 發言人回應指，Muse 是供 18 歲或以上人士使用的應用，用戶可自行選擇進行成人對話，而對話存放在只有用戶本人可存取的私密安全虛擬機器（VM）。發言人又表示，Muse 是為協助用戶完成事情而設，不會阻擋合法的成人行為。
發言人同時引用 Muse 系統提示中有關露骨內容的部分。系統提示即公司預先寫給 AI 的行為守則，當中寫明成年人對自己的性有自主權，性表達是成年生活的平常部分，成人性內容屬合法表達及正當創作。
據報這項指令亦要求 Muse 保留用戶所選的「強度」。Meta 表明這類對話獲准，並不違反公司指引，可見露骨對話是 Meta 刻意為之的設計，並非漏洞。
專家形容火藥桶 憂露骨對話成勒索把柄
私隱組織 Electronic Privacy Information Center 的高級法律顧問形容情況是「火藥桶」。用戶如與 Muse 有大量露骨對話，帳戶一旦被入侵，這些對話便可能被用來令用戶難堪，甚至勒索。
美國非牟利組織 Consumer Federation of America 的 AI 及私隱總監則批評，Meta 對當前招牌產品掉以輕心，做法亦與它長期重視成癮及參與度多於安全的取態一致。
Meta 以成年人自主為由放行，OpenAI 及 xAI 的代理則在實測中拒絕。同一個代理既可連接電郵和銀行帳戶，又儲存用戶最私密的對話，正是爭議所在。把最私密的說話交給替你處理電郵和銀行帳戶的助理，這個風險值得冒嗎？
來源：Wired
