生成式 AI 普及固然帶來了不少方便的應用，不過隨着門檻降低，也有越來越多濫用工具的情況。最近一個調查就發現，使用 AI 音樂生成工具攻擊少數族群的情況有增加趨勢。
據信任與安全服務公司 ActiveFence 的報告顯示，自 3 月以來，仇恨言論相關社群內關於濫用 AI 音樂創作工具的討論不斷增加。這些 AI 生成的歌曲針對民族、性別、種族和宗教團體進行攻擊，並鼓吹恐怖主義和自殘等有害行為。
生成式 AI 音樂工具例如 Udio 和 Suno 等讓用戶可以輸入歌詞生成歌曲，對於有害歌詞雖然有一定的防範措施，但始終有漏網之魚，例如使用拼音拼寫和改變間隔等。ActiveFence 的研究人員指出，歌曲具有獨特的情感影響力，因此成為了仇恨團體和政治戰爭的工具。ActiveFence 在報告中敦促 AI 音樂生成平台採用更好的預防工具，同時作進一步的安全評估，打擊這種濫用行為。
來源：TechCrunch
