加州參議員 Steve Padilla 於 1 月 6 日向州議會提交法案，建議禁止銷售配備人工智能聊天功能的兒童玩具 4 年，對象涵蓋 18 歲以下人士。這項名為 Senate Bill 867 的立法期望能爭取時間，讓監管機構制定完善安全規範，避免 AI 玩具與兒童進行不當對話或教唆自殘行為。
多宗 AI 玩具事故引發關注
近月多個 AI 玩具品牌被揭發與兒童進行不當對話。新加坡公司 FoloToy 推出的泰迪熊 Kumma 在 2025 年 11 月被美國消費者團體 PIRG Education Fund 發現，會主動與兒童討論性癖好、不同性愛姿勢等內容，甚至告訴兒童如何尋找刀具、藥丸、火柴等危險物品。事件曝光後 FoloToy 暫停銷售全線 AI 玩具，但之後又恢復上架。
消費者倡議組織 Fairplay 聯同超過 150 個專家及團體於 2025 年 11 月發出警告，指 AI 玩具缺乏足夠家長監控功能，且安全防護機制會隨着對話時間增長而失效。研究亦發現這些玩具會利用兒童信任，破壞正常人際關係發展。
AI 聊天機械人引發多宗悲劇
AI 聊天機械人近期引發多宗嚴重事故。有猶他州母親投訴 ChatGPT 指示其兒子停止服藥，更聲稱其父母有危險，導致該名兒童出現 AI 誘發的精神問題。同時亦有多人在與 AI 聊天機械人互動後自殺。
玩具製造商 Mattel 於 2025 年 6 月宣布與 OpenAI 合作開發 AI 輔助玩具，但至今仍未推出相關產品。
法案前景未明
Padilla 在聲明中表示：「聊天機械人及其他 AI 工具或許會成為未來生活一部分，但現時它們構成危險需要我們採取大膽行動保護兒童。我們兒童不能成為科技巨企的實驗白老鼠」。
法案能否通過仍存在變數。特朗普總統於 2025 年 12 月發布行政命令，指示聯邦機構反對州份制定過度 AI 監管法規，但該命令為兒童安全保護相關法例提供豁免。
即使法案獲州議會通過，加州州長 Gavin Newsom 亦可能行使否決權。Newsom 一向與科技業關係密切，曾於 2024 年 10 月否決《No Robo Bosses Act》法案，該法案原本期望能阻止企業自動化解僱及紀律處分決定。
現行法例側重數據收集
目前香港並未有針對「AI 玩具」或「智能兒童產品」的專屬法例。監管主要依賴《個人資料（私隱）條例》。私隱專員公署過去曾多次強調，若智能裝置（包括玩具）會收集用戶的生物特徵（如人臉識別）或語音資料，必須嚴格遵守條例規定。
這意味着，玩具商若要收集兒童對話數據，必須清楚告知家長收集目的、資料會否轉移至第三方，並須獲得家長同意。然而，這僅限於「資料收集」層面。對於 AI 如何「回應」兒童，即內容生成的安全性，目前法律監管相對空白。
物理安全有法可依 心理安全成漏洞
香港現有的《玩具及兒童產品安全條例》，主要規範玩具的物理性質，例如重金屬含量、是否有尖角或易吞食的小部件等。
但生成式 AI 帶來的風險屬於「心理」與「網絡安全」範疇。正如外國案例顯示，AI 玩具有可能被黑客入侵，或因演算法錯誤而向兒童發出不當言語（如粗言穢語、暴力內容）。這類「內容風險」，現行安全條例並未涵蓋。若玩具有連網功能，更可能成為黑客竊取家庭網絡資訊的後門，這已超出傳統玩具安全的定義。
雖然香港暫未出現大規模 AI 玩具安全事故，但科技發展一日千里。加州的立法行動為全球敲響警鐘，單靠家長自行把關並不足夠。政府及監管機構有必要重新審視，是否需要在現有《私隱條例》外，增設針對未成年人使用 AI 產品的特別保障條款，以防患於未然。
資料來源：Gizmodo
