國家廣播電視總局通報，自 1 月 1 日啟動為期 1 個月「AI 魔改」短片專項治理行動，各大網絡視聽平台一周累計處置逾 5,000 條違規內容。這次行動重點整治利用生成式人工智能技術，對四大名著、歷史題材、革命題材及英模人物等經典影視作品進行低俗化、暴力化或歪曲篡改行為，並同步清理面向未成年人邪典動畫。
三大清理重點
專項治理行動清理 3 類內容。首類內容嚴重違背原作精神內核與角色形象，顛覆基本認知。次類內容渲染血腥暴力、獵奇低俗，宣揚錯誤價值觀。第三類內容對中華文化挪用及篡改，導致對真實歷史時空與中華文明標誌產生錯位認知。
各平台處置數據
根據各平台公布數據，微信處置 1,078 條違規短片。抖音下架 1,075 條短片，包括 AI 生成《西遊記》及《紅樓夢》暴力低俗情節內容。快手清理 1,057 條。嗶哩嗶哩攔截 700 餘條問題稿件。小紅書清理 487 條，並封鎖 21 個高頻發布魔改四大名著、海綿寶寶及比卡丘等內容帳戶。百度圍繞涉政涉軍等高風險場景清理 284 條，關閉 2 個帳戶，其中一用戶因 AI 生成「關羽持槍匡扶漢室」等歪曲歷史形象內容遭處理。微博則清理 190 餘條短片，禁言 7 個違規帳戶。
監管機制加強
行動要求平台落實「先審後發」機制，並整治「亂象突出帳戶」。專項治理結束後，廣電總局將進一步研究制定綜合治理舉措，健全工作機制，保持治理常態化及長效化。市場監管總局聯同國家網信辦近日亦發布《直播電商監督管理辦法》，將數碼人主播等人工智能生成內容納入監管，避免新技術成為生成或傳播虛假資訊工具。
資料來源：快科技
