滥用AI音乐工具创作仇恨歌曲的危害

近期，有关滥用AI音乐创作工具来制作攻击性歌曲的讨论量激增，仇恨和有害歌曲并非新现象，但担忧在于，随着易于使用的免费AI音乐生成工具的出现，那些原本不具备音乐能力的人也将能够大量制造此类歌曲，正如图像、声音、视频和文本生成器加速了虚假信息、误导信息及仇恨言论的传播一样。

他们会以不同方式滥用这些AI平台来生成恶意内容，比如常见的Udio和Suno等生成式AI音乐工具，因为这些工具允许用户为生成的歌曲添加自定义歌词。

不过，平台上的安全措施会过滤一些常见侮辱和贬义词，但据称，用户已找到绕过内容过滤的方法，比如，有人持续分享那些攻击性词汇的音译拼写，以规避内容过滤，另外一些用户会尝试在提及暴力行为时调整字母间距和拼写。

有人试着在Udio和Suno这两个AI音乐工具上测试了此类绕过平台过滤的方法，发现Suno全部放行，而Udio虽阻止了一些，但也并非全部，这值得我们警惕。

与文字相比，歌曲常常带有情感元素，呼吁那些音乐生成平台实施更为严格的预防手段，并进行更广泛的安全评估，加强安全措施和审核，以防患于未然，就像我们之前谈到的已过世名人头像被人利用AI工具“复活”一样，AI生成的仇恨音乐若不加遏制，其潜在危害不容小觑。