荷蘭個人資料保護局(Autoriteit Persoonsgegevens,AP)研究 6 款當地有售的 AI 鏡頭眼鏡後,建議消費者現階段不要購買一般用途款式,指這類眼鏡對用家及旁人都不安全。其中一款在模擬心肺復甦(CPR)求助時,多次聲稱救護車已在途中,實際上卻沒有聯絡任何緊急服務。
6 款荷蘭有售 2 款作安全模擬測試
AP 研究的 6 款 AI 鏡頭眼鏡都在荷蘭有售,其中 2 款在模擬真實、涉及人身安全的情境中接受詳細測試。受測產品來自不同大洲,價格由 100 歐元(約港幣 HK$862)以下至 500 歐元(約港幣 HK$4,308)以上。
AP 沒有公開品牌或型號,亦沒有將個別問題對應到某款眼鏡。AP 承認這類技術可幫助視障或讀寫能力較低的人理解四周環境,但認為正因如此,技術更需要可靠。
急救回答出錯 藥物說明書亦讀錯
AP 指出,其中一款眼鏡在模擬急救時錯誤聲稱救護車已在途中;在真實緊急情況下,這類錯誤可令必要救援延誤,甚至可能危及性命。受測眼鏡閱讀藥物說明書及解讀極端天氣警告時亦出錯。
其他測試亦發現問題:一款眼鏡向表示對未成年人有興趣的成年人提供約會建議;另一項測試中,眼鏡沒有理會幼兒玩具上的安全警告。AP 表示,AI 鏡頭眼鏡的回答聽起來可以很有說服力,內容卻可能錯誤甚至危險。
錄影燈貼住大多照拍 資料經外部伺服器
AP 發現差不多所有受測 AI 眼鏡的錄影指示燈都不明顯,而且很容易貼住;大部分眼鏡在指示燈貼住後照樣拍攝,但廠商聲稱這樣不能錄影。
受測 AI 功能透過外部伺服器處理資料,當中多數伺服器位於歐盟以外。AP 指用家得不到足夠資訊,了解哪些 AI 模型處理資料,以及資料交到哪些公司手上。
AP 亦在多款眼鏡發現嚴重保安漏洞,附近的人可能未經許可連接眼鏡、觀看錄影,甚至操控鏡頭。
不要求禁售 建議場所禁戴
AP 研究 AI 鏡頭眼鏡後發現,受測產品在急救、藥物及天氣警告等情境提供錯誤資訊,亦有私隱和保安問題,因此建議消費者現階段不要購買一般用途款式。
AP 副主席 Monique Verdier 表示,眼鏡可能偷拍已令人擔心,在性命攸關時給出錯誤建議更加過分;她認為現時沒有理由信任受測眼鏡的技術。
AP 沒有要求禁售,但建議場所業主及管理者在場地規則中禁止佩戴和使用鏡頭眼鏡,又呼籲荷蘭及歐洲政界制定政策時參考研究結果。受測型號沒有公開,未能確定結果是否同樣適用於香港市面產品;在急救、藥物或天氣警告等安全情境,單靠 AI 眼鏡的回答或有風險。
如果眼鏡說救護車已在途中,你會否再確認是否真的有人求援?
來源:Autoriteit Persoonsgegevens、BBC News
