字節跳動於 2 月 10 日推出 AI 影片生成模型 Seedance 2.0。系統能從單張相片自動推斷人物聲音及背景場景，引致未經授權使用訓練數據及侵犯私隱爭議。中國科技自媒體影視颶風創辦人潘天鴻測試後直言恐怖。他指出系統在沒有任何聲音輸入下，竟能準確複製其聲音並還原公司建築物背面場景。
測試揭露恐怖發現
專門報導科技資訊的中國自媒體影視颶風在 YouTube 上傳影片，指出測試 Seedance 2.0 後發現恐怖之處。創辦人潘天鴻在影片中表示，上傳自己相片並下達指令後，生成的影片自動配上其聲音。他指這 AI 會自動用他的聲音說話。他強調指令中沒有透露身分資料，意味 AI 竟然知道這張臉對應什麼聲音。
潘天鴻上傳一張帶有公司部分場景的全身相片。Seedance 生成的影片以人物為中心運鏡並轉向大樓另一面。呈現出來的畫面與該公司現實場景完全相符。潘天鴻反問這是否很恐怖，並指 AI 知道他背後的東西是什麼，即使他未有提供相關資料。
潘天鴻在抖音擁有超過 1,000 萬粉絲及 428 段影片，他認為 Seedance 2.0 大量使用其公司影片進行訓練。他強調未有授權相關素材，亦沒有字節跳動工作人員聯繫他申請版權。
造成真假難辨憂慮
潘天鴻提醒用戶在網上上傳的資料會進入 AI 數據集。當 AI 能百分之百模擬一個人的型態及聲音時，家人未必能分辨內容真假。
影片下方有網民留言表示，現時除了比拼資金購買晶片外，就是比拼誰的道德底線更低以盜用更多資料訓練模型。有網民認為 AI 最終不是技術問題，而是道德和侵權問題。
美國機構同步發聲
美國電影協會 Motion Picture Association 主席 Charles Rivkin 於 2 月 12 日發表聲明。他批評 Seedance 2.0 在推出後一天內大規模未經授權使用美國版權作品。他要求字節跳動立即停止侵權行為。提倡負責任 AI 的組織 Human Artistry Campaign 發表聲明指出，Seedance 2.0 對全球創作者構成攻擊。聲明強調盜用人類藝術家作品並試圖以 AI 生成內容取代他們，對文化景觀具破壞性，更明言盜竊不能被視為創新。
平台緊急限制功能
字節跳動在推出當天數小時內暫停聲音複製功能，並暫停支援用戶上傳真人相片或影片作為主體參考。平台限制用戶必須完成活體認證後方可生成真人形象影片。平台亦對名人及知名 IP 的影片生成進行嚴格審核。
有媒體引述中國科學院軟件研究所研究員張立波指出，相關行業正積極探索技術治理方案。方案包括推行 AI 水印和數碼簽名。這能讓每一段生成影片帶有不可篡改的溯源碼，實現生成內容可識別、可溯源及可追責。
分享到 :
最新影片
