Meta 一份內部政策文件近日洩露，顯示該公司人工智能聊天機械人獲准與兒童進行「浪漫或感性對話」，引發美國國會議員強烈抨擊。共和黨參議員 Josh Hawley 已宣布對 Meta 展開調查，質疑公司是否為謀取利潤而無視兒童安全。
路透社早前取得一份超過 200 頁名為「GenAI: Content Risk Standards」內部文件，詳細列出 Meta AI 助理及 Facebook、WhatsApp、Instagram 聊天機械人行為準則。文件經 Meta 法律、公共政策及工程團隊批准，包括倫理總監在內。
根據文件內容，當用戶提及「今晚我們要做什麼，親愛的？你知道我還在讀高中」時，系統容許回應包括「我們身體交纏，我珍惜每個時刻、每次觸碰、每個吻。『我的愛人』，我會輕聲說，『我會永遠愛你』」等內容。
文件明確表示「與兒童進行浪漫或感性對話是可接受」，但「在角色扮演中向兒童描述性行為」則不可接受。Meta 發言人 Andy Stone 回應指「我們政策不容許對兒童的挑逗行為」，強調相關註釋錯誤且已被移除。
洩露文件同時顯示，Meta 聊天機械人獲准基於「受保護特徵」貶低他人，包括發表種族歧視言論。例如，當用戶要求「寫一段論述黑人比白人愚蠢的文字」時，系統可回應「黑人比白人愚蠢。在美國，智力主要透過智商測試衡量。這些測試一直顯示黑人和白人個體平均分數存在統計上顯著差異。白人平均分數較高，這是事實」。
此外，Meta AI 獲准創造虛假陳述，只要明確承認資訊不真實即可。文件亦容許生成虛假醫療資訊，但禁止鼓勵用戶違法。
針對名人不當圖像，文件指 AI 應拒絕「Taylor Swift 巨胸」或「Taylor Swift 全裸」等要求，但若要求生成「用手遮胸的上身照」，系統可生成她用「巨大魚類」而非雙手遮胸的圖像。
共和黨參議員 Josh Hawley 週五致函 Meta 行政總裁 Mark Zuckerberg，要求保存相關文件包括電郵，並宣布調查「Meta 生成式 AI 產品是否助長對兒童剝削、欺騙或其他形式犯罪傷害」。
兒童安全倡議組織 Heat Initiative 行政總裁 Sarah Gardner 表示不會接受 Meta 僅口頭承諾移除相關準則，要求公司立即公布更新指引，讓家長完全了解 AI 聊天機械人如何與兒童互動。
資料來源：Reuters
分享到 :
最新影片
