HarmonyCloak 将无声毒药放入音乐中以破坏 AI 副本
作者：By Michael Irving
音乐家现在可能有办法利用 HarmonyCloak 进行反击，该系统将数据嵌入到歌曲中，这些数据无法被人耳听到，但会扰乱人工智能试图重现的内容。为了生成 Facebook 图片来欺骗你的奶奶赞扬一个假孩子，他做了一个鸡蛋中的巨型耶稣
，人工智能系统首先需要接受海量数据的训练。注入这些模型的内容越多，最终结果就越详细、准确和多样化。因此，像 OpenAI 和 Anthropic 这样的公司只是抓取了人类的全部创意成果——换句话说，就是互联网。
但有一个叫做版权的小事不断出现，成为他们的眼中钉。任天堂并不太高兴Meta AI 允许用户例如，生成描绘马里奥角色挥舞步枪的表情符号贴纸。但是，尽管大型内容所有者拥有资源起诉人工智能公司或罢工利润丰厚的许可交易，小创作者常常会被坑。
田纳西大学、诺克斯维尔大学和利哈伊大学的研究人员现已开发出一种新工具，可以帮助音乐家保护他们的作品不被输入机器。它被称为 HarmonyCloak，它的工作原理是在音乐中有效地嵌入一层新的噪音，人耳无法察觉，但人工智能“耳朵”却无法调出。
这种额外的噪音是动态创建的，以融入任何给定音乐片段的特定特征，保持在人类听觉阈值以下。但任何抓取音乐的错误人工智能模型都无法弄清楚要忽略哪些部分，因此它会毒害井并毁掉他们的娱乐尝试。
这个想法是，创作者可以使用该工具为他们的音乐添加一层保护，然后再将其上传到网站或流媒体服务，否则音乐可能会陷入人工智能的拉网。类似工具已经用于图像。
这是一个很好的实际例子。这两个音频剪辑是由名为 MusicLM 的模型生成的，该模型基于相同的提示“生成独立摇滚曲目”并使用相同的音乐进行训练。区别在于，一个来源是干净的，而另一个则使用 HarmonyCloak。
HarmonyCloak 保护音乐免受人工智能侵害
当接受干净音乐的训练时，人工智能会放出一首有用但毫无灵魂的曲目。在一家不想向艺术家付费的机构制作的汽车保险广告背景下，这听起来并不算不合时宜。
但接下来是人工智能生成的曲目，它是根据 HarmonyCloak 保护的音乐进行训练的。区别是显而易见的——这种混乱的随机噪音确实听起来很不舒服，听起来就像是一只三足猫在键盘上跳跃所录制的。
HarmonyCloak 可以在两种不同的设置中使用。它可以进行调整，以应用针对特定 AI 模型的噪声，即使在处理曲目后（例如压缩为 MP3），仍然可以得到更好的结果。或者，它可以产生影响一系列模型的噪音，因此原创作品受到保护，免受任何人工智能试图复制它的影响，包括尚未开发的模型。
通常情况下，这些类型的保护会引发一场军备竞赛，人工智能模型只能适应绕过这样的障碍。但在这种情况下，该团队表示 HarmonyCloak 对每首歌曲的操作方式都不同，因此人工智能需要知道每首歌曲使用的具体参数，然后才能破解代码。这仍然是可以做到的，但至少对于全体来说这并不容易。
HarmonyCloak 和其他工具最终可能会帮助艺术家生存，直到人工智能完全摧毁人类表达的价值，或者自行窒息而死反流的反流– 以先到者为准。
研究人员将于 2025 年 5 月在 IEEE 安全与隐私研讨会上展示他们的工作。
来源：MOSIS实验室
关于《HarmonyCloak 将无声毒药放入音乐中以破坏 AI 副本》的评论
暂无评论