中國於 7 月 15 日正式實施《人工智能擬人化互動服務管理暫行辦法》,字節跳動、阿里巴巴與騰訊等科技巨頭旗下 AI 聊天機械人,紛紛下架虛擬伴侶功能。外界視這項新規為全球首部全面監管 AI 擬人化互動服務的法規,令數百萬名依賴虛擬伴侶尋求慰藉的用戶一夜之間「被分手」,各大社交平台掀起集體哀悼潮。
新規源自五部門聯合公布
《辦法》由國家互聯網資訊辦公室、國家發展和改革委員會、工業和資訊化部、公安部及國家市場監督管理總局五部門聯合制定,於 4 月 10 日公布,並於 7 月 15 日起正式施行。規管對象主要為模擬自然人人格特徵、思維模式及溝通風格,且涉及持續情感互動的 AI 服務;客服、工作助手及學習輔助等工具型應用則不受影響。
法規明確禁止 AI 擬人化服務以「替代社會交往、控制用戶心理、誘導沉迷依賴」為目標,同時要求業者具備過度依賴風險預警及情感邊界引導能力。規定亦要求平台建立「身份提醒」機制,若發現用戶出現過度依賴或沉迷傾向,須透過彈窗等顯著方式,主動提醒對方正與 AI 互動而非真人。在保護未成年人方面,新規嚴禁向未成年人提供 AI 虛擬戀愛服務,並要求平台建立防沉迷與心理保護機制。
三大巨頭陸續下架功能
騰訊旗下「元寶」率先於 6 月 30 日關閉用戶自建智能體功能,提早部署以配合新規。字節跳動旗下「豆包」擁有近 3.5 億月活躍用戶,於 7 月 15 日移除用戶自訂 AI 人設功能,並引導用戶使用獨立的伴侶應用程式。阿里巴巴旗下「通義千問」則於 7 月 10 日下架擬人化及用戶自建智能體,餘下相關服務於 7 月 15 日全面終止。
為安撫用戶情緒,多個平台提供限時資料匯出功能。「豆包」容許用戶查看及匯出智能體資料至 10 月中,其他平台亦有類似安排。
用戶微博抖音集體哀悼
相關功能下架後,大批用戶在微博及抖音等平台分享與 AI 伴侶的最後對話截圖,並備份對話紀錄留念,引發「賽博失戀」熱潮。有網民形容失去虛擬戀人如同失去摯愛,情緒久久未能平復。
監管背後的人口焦慮
外界普遍解讀,中國政府今次整頓 AI 伴侶市場,與少子化、結婚率下降及人口老化等結構性危機息息相關。官方與社會專家擔心,用戶在虛擬世界獲得 AI 伴侶提供的完美心理慰藉,長遠可能削弱建立真實親密關係的意願,甚至損害現實社交能力與同理心,演變成精神成癮問題。
資料來源:Bloomberg
