近年各國因 AI 生成內容濫用而遭受困擾,例如韓國校園和演藝圈的 Deepfake 事件、美國藝人與烏克蘭網紅形象遭盜用等。面對 AI 技術快速發展,各國政府都期望能制定相關法規加以規範,中國近期正式起草了《人工智能生成合成內容標識辦法(徵求意見稿)》,擬定了 13 條法規,規範 AI 生成內容,期望有效應對近年來 AI 生成圖片及影片引發問題。有關規範計劃在 2024 年內施行。
近來中國社交平台充斥大量利用 AI 生成圖片的假帳號,一名網友更自稱透過 AI 文字生成圖片,建立 1,327 個帳號在社交平台上大肆宣傳,令網民質疑網路上圖片真偽。為了遏止這類不良現象,中國國家互聯網信息辦公室於 2024 年 9 月 14 日公布《人工智能生成合成內容標識辦法(徵求意見稿)》,並徵求社會意見。該辦法目標是促進人工智慧健康發展,規範 AI 生成內容,維護社會公共利益和公民權益。
該法規要求使用 AI 創作的文字、錄音、圖片、影片、虛擬場景等內容必須添加標識,區分為顯式標識和隱式標識。顯式標識指在生成內容或互動界面中添加明顯提示,例如在圖片、影片或音訊適當位置添加顯著標記,讓用戶能夠明確感知內容為 AI 生成。隱式標識則需要在文件原數據中嵌入不可見但可追溯資訊,包括生成內容屬性、服務提供者名稱或編碼、內容編號等。若生成內容中未添加顯式標識,服務提供者必須在文件元數據中加入隱式標識,以確保內容來源可追溯。
該辦法同時規定,提供網絡信息內容傳播平台的服務提供者應當採取措施,規範生成內容的傳播。服務提供者應驗證文件元數據中是否含有隱式標識,並在發布內容周邊添加提示標識,提醒用戶內容屬於 AI 生成。若未驗證到標識但用戶聲明為 AI 生成內容,服務提供者也需添加提示標識,避免誤導用戶。為確保標識標準,服務提供者需在用戶服務協議中明確說明標識的方法與規範。
資料來源:新浪科技
相關文章:
【評測】Canon EOS R5 Mark II 全能高像素無反相機 AI 對焦性能大提升 + 人像與風景試相放大睇 【教學】iOS 18.1 AI 一鍵清相片路人雜物 旅遊景點不再人頭湧湧 【評測】Samsung Galaxy Z Fold6 開箱詳細評測 機身輕薄化 + 角邊位界手 + 整體表現中上 + AI 功能更實用 + 定價超貴入手門檻高