國家廣播電視總局通報,自 1 月 1 日啟動為期 1 個月「AI 魔改」短片專項治理行動,各大網絡視聽平台一周累計處置逾 5,000 條違規內容。這次行動重點整治利用生成式人工智能技術,對四大名著、歷史題材、革命題材及英模人物等經典影視作品進行低俗化、暴力化或歪曲篡改行為,並同步清理面向未成年人邪典動畫。


三大清理重點
專項治理行動清理 3 類內容。首類內容嚴重違背原作精神內核與角色形象,顛覆基本認知。次類內容渲染血腥暴力、獵奇低俗,宣揚錯誤價值觀。第三類內容對中華文化挪用及篡改,導致對真實歷史時空與中華文明標誌產生錯位認知。
各平台處置數據
根據各平台公布數據,微信處置 1,078 條違規短片。抖音下架 1,075 條短片,包括 AI 生成《西遊記》及《紅樓夢》暴力低俗情節內容。快手清理 1,057 條。嗶哩嗶哩攔截 700 餘條問題稿件。小紅書清理 487 條,並封鎖 21 個高頻發布魔改四大名著、海綿寶寶及比卡丘等內容帳戶。百度圍繞涉政涉軍等高風險場景清理 284 條,關閉 2 個帳戶,其中一用戶因 AI 生成「關羽持槍匡扶漢室」等歪曲歷史形象內容遭處理。微博則清理 190 餘條短片,禁言 7 個違規帳戶。
監管機制加強
行動要求平台落實「先審後發」機制,並整治「亂象突出帳戶」。專項治理結束後,廣電總局將進一步研究制定綜合治理舉措,健全工作機制,保持治理常態化及長效化。市場監管總局聯同國家網信辦近日亦發布《直播電商監督管理辦法》,將數碼人主播等人工智能生成內容納入監管,避免新技術成為生成或傳播虛假資訊工具。
資料來源:快科技
分享到 :
最新影片