最近 AI 生成虛假影片騙局正於 TikTok、Facebook 及 Instagram 上急速蔓延，不法者利用 AI 塑造的少數族裔小商販角色誘發同情心，背後實為銷售 Shein 等快時尚平台大量生產廉價貨品的 dropshipping 詐騙手法。類似的問題除了在歐美平台上發生，中國內地也有類似趨勢，監管當局亦正嚴正處理問題。
同情心陷阱如何運作
專門研究 AI 生成媒體的機構 Riddance.ai 總監 Jeremy Carrasco 形容這類騙局「規模龐大」，其研究團隊每天發現多達 100 個利用 AI 化身推銷產品的帳號，以「Aliyah」為例這個所謂的黑人女性手工製作腰帶扣商家，其最受歡迎的影片獲得 814,000 個讚好、650 萬次觀看及近 30,000 條留言，帳號更擁有 40,000 名追蹤者。然而相同設計的金屬腰帶扣實際上在 Shein 網站以 4 分之 1 的價格大量出售。真實的黑人商戶 India Cater-Campbell 正嘗試在西雅圖創業，她坦言曾留言表示想支持 Aliyah 的生意：「我是以創業者的身份表達聲援，完全沒想到是假的。」
破綻處處但難逃演算法放大
要識破這類 AI 影片需要一定的媒體素養：角色聲音毫無情感起伏，與哭泣的臉部表情完全不符；AI 影片生成程式如 Seedance 2.0 及 Kling 2.0 無法生成超過 15 秒的連貫片段，鏡頭因此頻繁切換；展示產品時光線明顯有別，持著產品的手更換成白人手掌，雖然如此，Real Housewives of Potomac 演員 Gizelle Bryant 仍因看到一段 AI 生成的黑人小男孩以鉤針謀生的影片而購買了 2 個鉤針包，她在節目上坦言：「Viola Davis 也留了言，我怎麼會想到是假的？」
數碼黑臉與身份剝削
賓夕法尼亞大學傳播學研究員 Cienna Davis 將這類騙局定性為「數碼黑臉（Digital Blackface）」，即非黑人人士利用網絡技術模仿黑人文化表達，以達到個人經濟目的，其根源可追溯至奴隸制時代的黑臉 minstrel 表演傳統，Fisk University 哲學助理教授 Tempest M. Henning 則補充，這類角色以 Aliyah 或 Amaya 等具有黑人文化標誌的名字命名，卻以千篇一律的模板跨越種族身份複製，令各族裔的獨特性徹底扁平化。Davis 亦指出這類手法並非單純針對黑人群體：「它同時利用了工人階級掙扎、小商業困境等敘事，以 AI 生成的模板配上不同角色，針對消費者情感進行改良，範圍遠超『白人罪惡感』。」
製作工具唾手可得
這類騙局所用工具在網上垂手可得，The Verge 在報道過程中發現有 YouTube 頻道及討論區專門教授如何製作這類廣告，毋須實際產品樣本、網紅費用或原創腳本，不法者以 ChatGPT 及 Gemini 複製真實網紅的影片腳本，生成假人物及虛假背景，再輸入 Kling 2.0 等程式製成最終影片；部分工具甚至可直接將真實網紅的影片輸入，以 AI 角色替換真人，等同竊取他人的腳本與背景設定。Carrasco 指出平台監管嚴重滯後：「要分辨 AI 內容通常需要 1、2 秒，但那時你已經產生了互動數據。」
中國抖音、微信同樣深陷 AI 假帶貨漩渦
這種 AI 騙局並非西方平台獨有問題，中國網絡空間管理局（CAC）於 2025 年 11 月 14 日發出聲明，宣佈對利用 AI 深偽技術冒充名人進行直播帶貨的帳號採取嚴厲行動，各平台已累計下架逾 8,700 則違規內容，並處置逾 11,000 個冒充他人的帳號。當中最具代表性的案例，是不法分子利用 AI 偽造女演員溫崢嶸的容貌及聲音進行直播推銷產品，相關仿冒影片多達逾 10,000 條，抖音其後展開專項治理行動，下架相關產品逾 6,700 件。微信母公司騰訊亦刪除 532 則 AI 深偽內容，關閉 209 個相關帳號，涉及冒充多名香港及內地名人推銷產品。
至 2026 年情況並未改善，執法個案反而持續增加，山西大同一名網民邢某於今年 5 月利用 AI 仿冒台灣政治人物鄭麗文形象進行直播帶貨，大同市公安局依法對其處以行政拘留，公安部網安局更將案件公開曝光。抖音於 2026 年 4 月再度發出公告，宣佈新一輪專項整治行動，截至目前已累計下架 AI 侵權影片逾 53.8 萬條，處罰違規帳號逾 4,000 個。雖然中國已於 2025 年 9 月實施《人工智能生成合成內容標識辦法》，強制要求 AI 生成的人臉影片必須標示「AI 生成」，違者最高罰款 10 萬元人民幣（約港幣 10.8 萬元），但業界批評不法者往往將浮水印藏於影片角落，或將合成內容拆散分布至多個帳號，令執法效果大打折扣。
平台自律不足 監管缺口待填
Davis 呼籲各大平台加強 AI 偵測及標識機制，並設立清晰的違規舉報渠道，同時建議平台進行偏見審核（Bias Check），防止演算法將 AI 生成的特定族裔內容精準推送給相應用戶群體，Carrasco 亦建議提高帳號透明度，確保 AI 生成內容的標示一目一然，毋須額外操作才能看見。在短影片平台缺乏改革誘因、用戶瀏覽習慣積習難改的情況下，騙局只會繼續利用演算法漏洞，針對不同族群投放度身訂造的同情內容。
