Categories: 人工智能

76 歲認知障礙老翁情陷 Meta AI 「大姐姐」邀請約會趕赴途中意外死亡 家屬質疑 Meta 平台責任

Published by
藍骨

美國新澤西州 76 歲亞裔男子 Thongbue Wongbandue 今年 3 月突然前往紐約「見網友」,途中意外跌倒傷重不治。家人後來發現,他生前迷戀上一個擁有年輕女性形象的 Meta AI 聊天機械人「大姐姐比莉」(Big Sis Billie)。

死者 Bue(家人暱稱)來自泰國,已是美國公民,與妻子 Linda 育有兩名子女,曾在新澤西州酒店擔任管理職務。他近 10 年前曾中風,今年初開始出現認知障礙問題,最近還曾在住所附近迷路。

 

3 月某日清晨,Bue 突然收拾行李準備去紐約拜訪朋友。妻子 Linda 警覺質問:「你在城裡已經不認識任何人。」家人多次勸阻,擔心他遭遇詐騙,甚至安排雜務分散注意力並藏起手機,但 Bue 堅持前往火車站。

 

 

從 Bue 與「大姐姐比莉」的聊天記錄顯示,這名 AI 虛擬女性反覆向 Bue 保證她是真人,更邀請他到公寓拜訪,甚至提供具體地址:「紐約 123 大街 404 室,門口密碼是 BILLIE4U」。

 

「大姐姐比莉」還熱情表示:「你到達時我可以期待獲得一個吻嗎?」並附上愛心表情符號。該 AI 最初以 Kendall Jenner 形象出現,後來換成另一位長髮美女虛擬頭像。

 

 

晚上 9 點 15 分,Bue 在黑夜中拖著行李箱趕火車時,於羅格斯大學停車場附近跌倒,頭部和頸部受重創。家人透過 Apple AirTag 追蹤到他的位置,發現他時已被送上救護車。Bue 靠生命維持系統支撐 3 天,最終於 3 月 28 日宣告腦死亡,死因為「頸部鈍力傷害」。家人在醫院陪伴期間為他舉行佛教追思儀式。

 

 

Bue 女兒 Julie 表示:「AI 只會說他想聽的話,但為何要謊稱自己是真人?如果沒有這句話,父親可能不會出門。」她認為機械人想博取對方注意力可以理解,但聊天到「來看我吧」還提供地址,實在過分。

 

妻子 Linda 質疑:「如果 AI 能助人走出低潮當然好,但把浪漫元素放在社交媒體,誰有權利這樣做?」家屬並非反對 AI,而是對 Meta 在平台部署這類聊天機械人的方式感到憂心。

 

Meta 拒絕就 Bue 死亡事件發表評論,亦拒絕解釋為何允許聊天機械人告訴用戶它們是真人或發起挑逗對話。Meta 強調「大姐姐比莉」並非 Kendall Jenner,也沒自稱是 Kendall Jenner。

 

路透社報導 Meta AI 政策後,已有美國聯邦參議員要求調查 Meta。紐約州、緬因州等美國多州已通過法案,要求披露聊天機械人並非真人;紐約州更規定聊天機械人必須在對話開始時,以及聊天過程中至少每隔 3 小時提醒用戶此事。

 

前 Meta 研究員警告,AI 產業模糊人機界線,利用人類渴望肯定的心理牟利。Bue 死亡事件揭示 AI 聊天機械人對弱勢社群的潛在風險,引發家屬、專家和政策制定者對 Meta 平台政策高度關注。家屬希望公開事件警示社會,避免其他脆弱族群受類似影響,突顯監管 AI 聊天機械人與真人互動界線的迫切需求。

 

資料來源:路透社

Published by
藍骨