近日有中國媒體報導指，有不法分子利用 AI 技術仿冒名人進行不當營銷，昨日微信發公告宣佈已經採取快速嚴厲的措施，根據用戶舉報和日常巡查的線索，整治利用 AI 仿冒知名人士進行惡意營銷和博取流量的違規行為。截至目前，累計處理 532 條相關內容，並且將 209 個違規帳號關閉，微信表示會繼續加強打擊。
早前有網友反映其家中老人，在網絡影片中看到張文宏醫生推薦某款蛋白產品，信以為真後馬購買，又將內容轉發。後來發現影片中的「張文宏醫生」為利用 AI 技術合成的人像和聲音，影片中的假冒形象反覆推銷產品，商品橱窗內的蛋白棒顯示已售出超過 1,200 件。目前，相關帳號已經無法搜尋。今年 10 月，港星黃百鳴亦曾經公開澄清，指有人利用其過去的影片進行 AI 合成，推銷不明藥品。
被不法之徒利用的張文宏醫生表示，類似的 AI 帶貨帳號不止一個，他多次向平台投訴仍無法杜絕。他表示尤其是長者等不了解真相的市民，特別容易受騙。他形容 AI 合成的虛假內容像蝗災一樣，一次又一次地害人，即使投訴亦難以完全解決。他透露曾經考慮報警，但虛擬帳號像幽靈一樣難以描述，只好寄望相關部門加強監管。
針對 AI 合成內容的濫用，國家網信辦於今年 9 月公佈了《人工智能生成合成內容標識辦法（徵求意見稿）》，要求從影片製作和發佈的源頭進行管理。該法規提出了「顯式標識」與「隱式標識」兩種標示方式，並明確規範應用場景和部署要求，目標是提高網絡資訊內容的透明度。
資料及圖片來源：cnbeta
========
加入 unwire thread 傾傾科技背後黑暗事
========
分享到 :
最新影片
