美國佛羅里達州奧維耶多市 Lawton Chiles Middle School 本週發生一宗由 AI 武器識別系統誤報引致的封校事件。校內部署的 ZeroEyes AI 威脅檢測平台透過閉路電視掃描即時畫面時，誤將一名學生手持的單簧管當作槍械，觸發最高級別「紅色代碼」（Code Red）封鎖程序，執法部門到場後確認並無真實威脅。
事件經過與校方回應
該校所在的 Seminole 縣學區使用 ZeroEyes 公司提供的雲端槍械檢測服務，合約金額達 25 萬美元（約港幣 195 萬元）。系統透過連接現有閉路電視，利用電腦視覺演算法識別畫面中可能出現的槍械輪廓。校長事後在通知中強調校園當時並不存在真實安全威脅，但仍提醒家長與子女溝通，避免做出假裝持有武器的危險舉動。
人工覆核機制失效引關注
ZeroEyes 官方資料稱 AI 模型經過上百種槍械影像訓練，一旦系統發現疑似武器，相關畫面會傳送至監控中心，由分析員覆核後再決定是否發出警報。然而這次事件中，這「人工二次確認」機制顯然未能阻止誤報演變為全校封鎖。類似事件在其他學區也曾發生，馬里蘭州一所學校曾將學生手持 Doritos 薯片袋的姿勢誤判為持槍。
準確率數據欠透明惹質疑
ZeroEyes 平台目前已在全美 43 個州應用，並進入佛州多個人口稠密學區。雖然部分 AI 槍械檢測系統聲稱達到 95% 以上準確率，但 ZeroEyes 對外公開的效能數據極為有限，幾乎沒有關於識別準確率、誤報率以及成功阻止真實威脅案例的詳盡統計。Seminole 縣安全部門僅籠統將該系統描述為「有效應對威脅」，未有提供任何經證實的威脅攔截數據。
專家憂慮監控擴張弊大於利
獨立技術分析人士指出，目前幾乎看不到對 ZeroEyes 的第三方評估。紐約公民自由聯盟最近也對 Long Island 學區使用 AI 課堂監控系統發出警告，認為這類系統在未經公開下安裝，構成私隱風險。美國公民自由聯盟政策顧問更指出，若系統誤報頻率較高，會製造不必要封鎖和恐慌，更可能令學校和家長在一次次虛驚中產生麻木，反而削弱對真正危機的敏感度。
政策與採購監管受關注
ZeroEyes 亦透過註冊說客推動多州立法，在部分州獲得類似「指定供應商」地位，成為校園保安採購中唯一獲批的 AI 槍械檢測供應商。批評者認為這類立法排擠競爭對手，削弱公共採購審查空間。雖然美國國土安全部 2023 年報告指出此技術可提供近乎即時警報，但「無法保證預防威脅」，Seminole 縣學區依舊將這套系統視作必要防線。
資料來源：cnBeta
分享到 :
最新影片
