近年各國因 AI 生成內容濫用而遭受困擾，例如韓國校園和演藝圈的 Deepfake 事件、美國藝人與烏克蘭網紅形象遭盜用等。面對 AI 技術快速發展，各國政府都期望能制定相關法規加以規範，中國近期正式起草了《人工智能生成合成內容標識辦法（徵求意見稿）》，擬定了 13 條法規，規範 AI 生成內容，期望有效應對近年來 AI 生成圖片及影片引發問題。有關規範計劃在 2024 年內施行。
近來中國社交平台充斥大量利用 AI 生成圖片的假帳號，一名網友更自稱透過 AI 文字生成圖片，建立 1,327 個帳號在社交平台上大肆宣傳，令網民質疑網路上圖片真偽。為了遏止這類不良現象，中國國家互聯網信息辦公室於 2024 年 9 月 14 日公布《人工智能生成合成內容標識辦法（徵求意見稿）》，並徵求社會意見。該辦法目標是促進人工智慧健康發展，規範 AI 生成內容，維護社會公共利益和公民權益。
該法規要求使用 AI 創作的文字、錄音、圖片、影片、虛擬場景等內容必須添加標識，區分為顯式標識和隱式標識。顯式標識指在生成內容或互動界面中添加明顯提示，例如在圖片、影片或音訊適當位置添加顯著標記，讓用戶能夠明確感知內容為 AI 生成。隱式標識則需要在文件原數據中嵌入不可見但可追溯資訊，包括生成內容屬性、服務提供者名稱或編碼、內容編號等。若生成內容中未添加顯式標識，服務提供者必須在文件元數據中加入隱式標識，以確保內容來源可追溯。
該辦法同時規定，提供網絡信息內容傳播平台的服務提供者應當採取措施，規範生成內容的傳播。服務提供者應驗證文件元數據中是否含有隱式標識，並在發布內容周邊添加提示標識，提醒用戶內容屬於 AI 生成。若未驗證到標識但用戶聲明為 AI 生成內容，服務提供者也需添加提示標識，避免誤導用戶。為確保標識標準，服務提供者需在用戶服務協議中明確說明標識的方法與規範。
資料來源：新浪科技
M4 Mac Mini + MBP + iMac 全系列評測：Apple Intelligence AI 全平台體驗影片 【評測】Honor Magic7 Pro 深圳發佈快速評測 機身手感更佳 + 熒幕更護眼 + 長焦鏡再強化 + 鷹眼終可連拍 + 更多實用 AI 功能現場速試 WhatsApp 直接加入 Copilot 教學 輕鬆與 Microsoft AI 助理對話