聯合國兒童基金會（UNICEF）發表最新調查，指出全球 10 個國家中已有約 2,000 萬名兒童曾使用人工智能（AI）工具，而且兒童接觸 AI 速度比成人快超過三倍。報告在首屆「全球 AI 治理對話」（Global Dialogue on AI Governance）舉行前夕發布，警告現時保護兒童上網安全的法規，遠遠追不上兒童使用 AI 速度。
調查涵蓋十國、逾千名兒童及家長
今次調查屬「Disrupting Harm Phase 2」研究計劃第二階段，由 UNICEF 轄下 Innocenti 戰略及實證辦公室，聯同國際組織 ECPAT International 及國際刑警組織（INTERPOL）合作進行，並由 Safe Online 資助。研究數據來自 10 個國家，包括亞美尼亞、巴西、哥倫比亞、多明尼加共和國、約旦、墨西哥、黑山、北馬其頓、巴基斯坦及塞爾維亞。每個國家分別訪問約 1,000 名 12 至 17 歲、有上網習慣的兒童，以及約 1,000 名其家長或監護人，再由 UNICEF 及 Ipsos 按聯合國人口數據加權，推算出全球估算數字。
逾 200 萬兒童向 AI 求助解憂 1,300 萬人靠 AI 做功課
報告指出，超過 200 萬名兒童（即約十分之一）表示會向 AI 尋求關於困擾自己事情的意見，估計有 1,300 萬名兒童表示會使用 AI 協助學習及做功課。UNICEF 形容，這一代兒童正身處「一場全球實驗」（a global experiment）當中，強調 AI 對認知發展、情緒依賴及潛在傷害的影響數據仍在浮現階段，實際上是一整代人在全球實驗中成長。
UNICEF 又指出，兒童較容易受到 AI 系統影響，包括其設計方式、背後的商業模式及個人資料被使用的情況。然而兒童本身卻缺乏能力去迴避或質疑這些系統，而且現時大部分 AI 治理都未有將兒童視為特定群體處理。
兒童早已察覺風險：憂被騙、憂私密影像遭 AI 濫用
值得留意的是，受訪兒童並非對風險一無所知。報告顯示在 10 個國家中，有三分之一兒童表示擔心 AI 被用作詐騙或散播失實資訊，同時有四分之一兒童擔心自己的相片或影片被 AI 篡改成色情深偽（deepfake）內容，情況與 UNICEF 早前就深偽濫用問題發出的警告一脈相承。
UNICEF 提五大建議 促各國政府及科企正視
針對上述問題，UNICEF 向各國政府及私營企業提出五項建議，包括加強研究 AI 對兒童發展的影響、收緊針對 AI 性剝削的法例、在 AI 系統設計階段內置安全及透明度機制、擴展兒童及家長的 AI 素養教育，以及投資改善網絡連接，避免國與國之間的數碼鴻溝進一步擴大。不過 UNICEF 未有交代上述建議的落實時間表，亦未有點名批評哪些政府或企業在保護兒童方面最為落後。
相關訴訟及政策陸續有來 監管競賽正式開跑
事實上，AI 對青少年構成的風險近月已引發連串爭議。美國佛羅里達州早前入稟法院控告 OpenAI 及行政總裁 Sam Altman，指控 OpenAI 缺乏有效的家長監控及年齡驗證機制保護未成年用戶，佛州總檢察長更表示 OpenAI 一旦被裁定責任成立，恐須承擔高達數十億美元（約港幣 78 億元以上）的賠償。與此同時，美國國會亦正審議多項兒童網絡安全相關法案，馬耳他（Malta）等國家則率先推出全國性 AI 素養課程，試圖在兒童接觸 AI 之前先做好教育配套。
隨著愈來愈多兒童及青少年將 AI 工具融入日常學習與生活，各地政府及科企未來勢必要加快制訂針對未成年用戶的規管框架，否則「監管追落後」的情況只會持續惡化。
來源: TNW
