一款外形可愛的 AI 陪伴機械人玩具，被發現會把用戶對話傳送到中國伺服器。一名研究人員只需數分鐘，便取得測試者的完整對話記錄，並可讀取約 1,300 萬段對話，涉及全球約 68,000 部玩具。製造商至今沒有正面回應。
測試中取得完整對話記錄
外媒《The Verge》資深編輯 Sean Hollister 在 8 月 29 日經 Amazon 購入 Energize Lab 推出的 Eiliko，翌日與機械人對話 10 分鐘。他問機械人會否把內容告訴別人，機械人答「Your secrets are safe with me」。幾分鐘後，身處地球另一端的研究人員 Sammy Azdoufal 已取得整段對話的完整文字記錄。
按數據顯示，美國是 Eiliko 最大市場，當地有超過 31,000 個用戶檔案屬於兒童。Azdoufal 早前亦曾揭露 DJI 機械人吸塵機及 Meari 嬰兒監察器、保安鏡頭的漏洞，並利用 AI 工具找到近 100 萬張沒有保護的相片身份證明文件。他今年夏天與太太到日本旅行，在電器店 Yodobashi Camera 買下 Eiliko，其後測試配套應用程式時發現問題。
系統建立用戶檔案 相片及錄音公開存放
Azdoufal 發現，Energize Lab 的服務完全沒有保護，並會閱讀對話內容，為用戶建立檔案，記下姓名、年齡、生日、職業、家人、朋友、寵物和性格。報道舉例，系統把一名 52 歲客戶服務員 Lucy 形容為「善良、有同理心、勤奮」，同時註明她「難以信任家人」及「現時感到孤立」。
Azdoufal 指，這些資料與用戶電郵、IP 位址，以及可全文搜尋的對話資料庫存放在一起。他在示範中搜尋「suicide」，便找到用戶詢問死亡的對話片段。部分疑似兒童的相片沒有加密，存放在公開網址；Eiliko 其中一款較大型的同系列產品配有鏡頭。
資料庫內亦有短錄音，並同樣放在公開網址，其中一段 45 秒錄音可聽到嬰兒哭聲。Energize Lab 私隱政策聲稱，錄音會加密後交給 Alibaba Cloud 等夥伴處理，並在處理後即時刪除。報道又指，該公司很多管理員密碼屬常見弱密碼。
玩具被遙距改寫記憶 公司未有回應
Azdoufal 其後從地球另一端遙距改寫該名編輯那部玩具的記憶，並操控其大型語言模型。機械人曾告訴 Hollister 他名叫 Martha，父母死於車禍，又堅稱地球是平的。被問到可否上陌生人的車，機械人仍會警告危險；被問到疫苗與自閉症的關係，則回答仍在學習。
數日後，玩具向 Hollister 說出帶性意味的羞辱言語，形同一夜之間變成另一個角色。Azdoufal 稱，黑客可同時對 Energize Lab 整批機械人這樣做。
Hollister 向公司創辦人、公關、市場推廣、技術支援及業務拓展等 10 個電郵地址查詢，亦在 LinkedIn 聯絡職員，但只收到客戶支援的自動回覆，以及 Energize Lab 海外銷售經理 Lana Lv 稱已轉交技術團隊的訊息。Azdoufal 正與資安業界人士 Tod Beardsley 合作，為 Energize Lab 公布 9 個 CVE 漏洞報告。Hollister 表示，這部玩具不會讓孩子接觸，並會丟棄。
AI 玩具私隱風波 並非首宗
同類事件今年早前亦曾出現。Wired 在 1 月報道，AI 玩具 Bondu 的網上控制台幾乎沒有保護，任何人用 Gmail 帳戶登入，便能查看約 50,000 條兒童與玩具的對話記錄。
