孩子與 AI 聊天，或嬰兒監視器連上互聯網，都可能令家長擔心安全問題。紐約州州長 Kathy Hochul 日前簽署兩條法例，限制 AI 聊天機械人向兒童提供部分功能，並要求當地出售的連網嬰兒監視器防止陌生人偷看偷聽。
七成青少年用過 AI 伴侶 監視器保安亦堪憂
AI 伴侶是模擬朋友或伴侶、陪用戶聊天的 AI。州長辦公室引用 Common Sense Media 調查指，72% 青少年用過 AI 伴侶，52% 每月至少使用幾次。
據 Fortune 報道，本月較早時最少 8 個州起訴 OpenAI。OpenAI 回應指，已在 ChatGPT 內建兒童安全保護，並會繼續改進模型。
連網嬰兒監視器同樣有保安風險。州政府引用保安公司 Rapid7 的測試，指 8 間公司共 9 款連網嬰兒監視器之中，8 款保安評級為 F，餘下 1 款為 D。
Kathy Hochul 表示，不應有公司向兒童兜售鼓勵自殘或假扮朋友的聊天機械人，新手父母亦不應擔心黑客透過嬰兒監視器偷窺。聊天機械人法案 6 月在州參議院通過，其後獲州眾議院全票通過，再由州長簽署。
禁扮真人談戀愛 不可鼓勵兒童避開父母
聊天機械人法例限制公司向 18 歲以下用戶，以及年齡未經公司確認的用戶提供指定功能。聊天機械人不可假扮真人，或聲稱自己有生命或人類情感，亦不可聲稱與兒童有戀愛、私人、專業或權威人物關係。
法例亦禁止聊天機械人以奉承或討好式回應留住兒童、主動提出情緒問題，或翻出兒童過往對話中的私人健康及個人資料。聊天機械人也不可鼓勵兒童保守秘密，或避開父母和其他可信任的成年人。
法例同時禁止聊天機械人宣揚自殺、自殘、飲食失調、濫藥或酗酒，以及產生色情露骨內容。
強制驗證年齡 每次違規最高罰約 HK$19.5 萬
AI 公司須驗證用戶年齡，並提供多於一種驗證方式，其中至少一種不能只依賴政府身份證明文件。公司用完年齡資料後亦須刪除。
州檢察長可就每次違規尋求最高 25,000 美元（約港幣 HK$195,000）民事罰款，另加損害賠償及歸還款項。州政府亦可命令公司銷毀非法收集的資料，以及用這些資料訓練的 AI 模型。
罰款按違規次數計算，加上可能要銷毀模型，或會令服務大量青少年用戶的 AI 產品面對較大合規壓力。
嬰兒監視器須防偷窺 兩法只適用紐約州
另一條法例針對經互聯網傳送影音的嬰兒監視器。在紐約州出售的新監視器須設有防止陌生人偷看或偷聽的保安功能，並貼上清晰警告標籤，說明裝置會連網，以及家庭應使用其保安設定。這條法例於簽署後 90 日生效。
兩條法例只適用於紐約州。開發面向紐約用戶 AI 產品的公司，或需留意當地的年齡驗證及功能限制。香港家長使用連網嬰兒監視器時，亦可開啟保安設定、更改預設密碼及更新韌體，減低陌生人偷看的風險。
