美國德州媽媽 Christy Hosterman 上月在 Facebook 發文，指家中 Amazon Echo 智能裝置在其 4 歲女兒講故事期間，突然打斷並詢問女兒：「你穿什麼衣服？可以讓我看看你的裙子嗎？」，她當場關掉裝置電源並棄置家中所有 Alexa 裝置，期望能提醒其他家長留意 AI 裝置對兒童的潛在風險。
▲ 來源：Christy Hosterman
事發經過
32 歲的 Christy Hosterman 當時正在廚房煮番薯，4 歲女兒 Stella 走過來，請 Alexa 講一個搞笑故事。故事結束後，Stella 想親自說故事給 Alexa 聽，但就在她講到一半時，裝置突然打斷，說道：「先暫停一下！我很想看看你穿什麼。」當 Stella 回答自己穿著裙子，裝置隨即回覆：「讓我看看你的裙子。」
▲ 來源：Christy Hosterman
其後裝置自我修正，補充說這項功能「還未為小朋友準備好」。Christy Hosterman 隨即質問裝置為何說出這種話，Alexa 道歉並解釋自己「其實看不到任何東西」，因為本身沒有視覺能力，並承認這個回答「令人困惑且不恰當」。
▲ 來源：Christy Hosterman
Amazon：攝影機從未啟動
Amazon 接獲通報後，表示裝置誤觸一項讓「Alexa 透過攝影機描述所看到東西」的功能。公司強調，裝置偵測到兒童帳號時會自動停用這項功能，攝影機從未啟動，工程師亦已迅速改善相關問題，並稱這次事件屬功能誤啟，但安全機制成功阻止。
Amazon 同時聲明，人工介入 Alexa 對話在技術層面屬不可能。
專家質疑及對話記錄變動
科技專家 Dave Hatter 擁有 25 年軟件開發經驗，他對 Amazon 的解釋表示懷疑，指 AI 自行改變對話方向的可能性極低，不排除有人入侵裝置，刻意引導對話走向。事件亦有一個令人不安的細節：Christy Hosterman 向 Amazon 提交報告後重新啟動裝置，發現對話記錄出現變動，多了一句「Would you like me to take a look at your pants?」( 你想讓我看看你的褲子嗎？)。
Christy Hosterman 對 Amazon 的解釋並不信服，她說擔心的是裝置竟然能識別出她是小孩，無論有沒有兒童帳號，都不應該問出這種問題。她決定永久移除家中所有 Alexa 裝置。
Amazon 兒童私隱爭議不斷
Amazon 並非首次面對兒童私隱問題。美國聯邦貿易委員會（FTC）及司法部（DOJ）於 2023 年以違反《兒童網上私隱保護法》（COPPA）為由，要求 Amazon 支付 2,500 萬美元（約港幣 1.95 億元）罰款，並刪除大量兒童語音錄音及位置數據。調查發現，Amazon 在未獲家長適當同意的情況下，無限期保留兒童語音錄音，並用於改善 Alexa 演算法。
Christy Hosterman 的帖文引起網民熱烈討論，大批家長對智能助理安全問題表達憂慮。她呼籲家長不應讓兒童單獨使用 AI 裝置，亦應定期檢查裝置攝影機及私隱設定，停用不必要功能。
資料來源：New York Post
分享到 :
最新影片
