就连 Spotify 也无法免受人工智能的影响

2024-11-14 15:15:00 英文原文

当一张 HEALTH 专辑出现在我的 Spotify 新发行雷达上时,我第一次注意到了一些奇怪的事情。除了封面设计很有趣之外,它看起来不像一张 HEALTH 专辑。 

但事实并非如此。

Screenshot of the faked AI album that appeared on the artist page for Annie. Tracks include “Deeply Awake,” “Wandering Connect,” and “Visualize Visual.”

假安妮专辑的屏幕截图,拍摄于 10 月 12 日。

某种 AI 垃圾已被上传到 Spotify 上 HEALTH 的艺术家页面,这是那个周末以他们的名义出现的三张假专辑之一。乐队的 X 帐户已创建一些笑话 关于它,专辑最终被删除,我又开始忙自己的事了。然后,下周末,我看到安妮的新专辑上市了。 

这张专辑更合理——安妮刚刚发行了一首新单曲“天空是蓝色的”——但当我点击进去时,我在歌曲标题列表中找不到它。我很困惑,播放了这张专辑,听到了鸟鸣声和隐隐约约的新时代乐器演奏。这……听起来不像安妮。

“这让我很沮丧,因为如果你有耳朵,你肯定能听到这不是我们的音乐。”

所以我做了任何正常人都会做的事:在群聊中抱怨这件事。我就是这样听说这种情况发生在其他艺术家身上的,就像很多艺术家一样,而且已经发生了几个月。(“我的发布雷达中经常会出现这样的情况,”我的好友戈登说。)有一段时间,金属核艺术家例如《卡利班》、《北巷》和《寂静星球》已成为目标。但很多艺术家的名字都是单字的,比如天鹅、亚洲、标准,还有龚。一张新专辑将出现在艺术家的 Spotify 页面上,上面有他们的名字,但与他们的音乐没有相似之处。有时,就像假的 HEALTH 专辑一样,它们会在几天后消失。其他时候,它们会无限期地徘徊,甚至违背艺术家的意愿。

A screenshot of the Swans artist page, showing the first album under “Discography” is an AI-generated fake

你能看出假货吗?

“这太奇怪了,”Standards 首席词曲作者兼吉他手马科斯·梅纳 (Marcos Mena) 说道。– 我想,“哦,这是 Spotify 会处理的事情。” 毕竟,Standards 有一个经过验证的艺术家页面。但当 9 月 26 日发布一张假专辑时,它却没有任何改变。梅纳向 Spotify 发送了电子邮件,告诉他们出现了一个错误。两周后,即 10 月 8 日,主播做出了回应:“看起来内容已正确映射到艺术家的页面。如果您需要进一步帮助,请联系您的音乐提供商。请不要回复此消息。截至 11 月 8 日,假冒的 Standards 专辑仍然在乐队经过验证的蓝色格子名称下。最终于 11 月 11 日被删除。

“这让我很沮丧,因为如果你有耳朵,你肯定能听到这不是我们的音乐,”梅纳告诉我。“这绝对是一件令人沮丧的事情,因为我们今年确实推出了一张新专辑,而且我觉得它有损于这一点。”如果有人来观看标准乐队为另一张专辑开场的音乐会怎么办?乐队,去 Spotify 查看更多歌曲,却得到了假专辑? 

A screenshot of Standards’ Spotify page, showing a fake AI album as the first result under “Discography”

你能看出假货吗?

对我来说,这一切都提出了一个明显的问题:他妈的为什么?

整个过程有效地作用于荣誉系统,对于像假标准专辑这样的东西,这就是问题开始的地方

鉴于 Spotify 诈骗的历史,我认为答案是金钱。(答案几乎总是金钱。)

要了解其工作原理,您需要了解其机制。Spotify 等流媒体平台的工作方式与 Facebook 页面不同,Mena 和其他艺术家不会直接登录帐户并将专辑添加到他们的帐户中。相反,他们通过经销商处理许可、元数据和版税支付。发行商将歌曲和元数据批量发送到流媒体服务。这元数据部分很重要;它包括歌曲标题和艺术家姓名等信息,还包括歌曲作者、唱片公司等其他信息。这对于艺术家(和其他人)获得报酬至关重要。 

但这整个过程有效地作用于荣誉系统,对于像假标准专辑这样的东西,这就是问题开始的地方。发行商相信你的话,你就是你所说的人,Spotify 相信发行商他们的突然,一个真正的艺术家的页面上出现了一张假专辑。大多数情况下,当这种情况发生时,这是一个无心的错误。然而,在最近出现的一系列假货中,艺术家似乎成为了直接目标。

由于艺术家通过流媒体获得的资金要通过发行商,因此假冒的标准专辑(如果它能获得任何报酬)将奖励梅纳以外的其他人。我们知道真正的 Standards 是在 Topshelf Records 上,但假货似乎是在 Gupta Music 上,所以 Standards 真正的唱片公司也没有获得分成。如果有足够多的人观看这张专辑,那么版税将直接流入古普塔音乐公司……以及数百张其他充满污点的发行版本的费用。

就连所谓的标签名称也让我感到可疑

梅纳表示,他已向发行商提出申请,要求撤下这张假冒的标准专辑。但无论是谁做的——Spotify 或其经销商——都没有通知梅纳;当我问他是否参与了搬迁行动时,我做到了。他没有——他给我发短信——但是有人做了某事。”

要去每一次噪音— 本质上是 Spotify 上内容的百科全书 — 在搜索 Gupta Music 时,我看到了 700 多个版本。封面艺术看起来非常相似,而且带有人工智能的味道。所谓的乐队名称大多是一个词:“Rany”、“Living”、“Bedroom”和“Culture”。这些专辑与假乐队名称相同。。搜索“Gupta Music”仅返回14 岁的罗伯特·古普塔 (Robert Gupta) 发表 TED 演讲

Screenshot of a search of Gupta Music on Every Noise at Once. It shows a remarkably similar set of album covers, and all appear to be AI-generated.

在专辑被删除之前,“Every Noise at Once”的屏幕截图。

就连所谓的标签名称也让我感到可疑。有一家名为 Gupta Media 的知名营销机构。它代表娱乐公司,包括迪士尼音乐集团、共和唱片公司(服务于The Weeknd 的专辑)和索尼音乐。

看起来 Standards、Annie、HEALTH、Swans 和其他一些著名的单字艺术家都成为了直接目标。Spotify 证实,人工智能垃圾的冲击来自一个来源,即许可方 Ameritz Music。阿梅里茨音乐没有回应置评请求。

“由于严重且屡次违反 Spotify 的元数据风格指南,我们终止了与提供相关内容的许可方的关系,”Spotify 全球音乐传播主管 Chris Macowski 表示。通过电子邮件发送的声明。– 因此,该内容已从我们的平台上删除。 –

Macowski 还表示,Spotify“在自动和人工审核方面投入了大量资金”,以防止版税欺诈。

但是,数百或数千首流媒体数量相对较少的歌曲组合在一起,可能会带来巨额支出

早期的尝试主要集中在金属核音乐家《适合尸检》、《阿尔法狼》和《飞蛾扑火》等节目似乎也是一种协调一致的企图,旨在窃取合法的流量。据报道,该案的罪魁祸首是 Vibratech Musicians白痴

作为使用该平台的合法音乐家,Spotify 上的每首歌曲流的个人支出很小常常感叹。但是,数百或数千首流媒体数量相对较少的歌曲组合在一起,可能会带来巨额支出。欺诈者只需上传音乐并找到一种方法让帐户播放它。而且这种情况不仅仅发生在 Spotify 上。艺术家可以在 100 多个流媒体平台上实施这种骗局。

11月初,环球音乐集团 (UMG) 起诉 Believe,一家音乐发行商,及其美国子公司 TuneCore。在那起诉讼中,UMG 声称 Believe 采取了“有意识的商业策略,在充分了解其发行服务的许多客户都是欺诈者的情况下,不加区别地分发和声称许可曲目。”该诉讼涉及版权侵权,并且其中的细节令人震惊。

UMG 声称,诸如“Kendrik Laamar”、“Arriana Gramde”、“Jutin Biber”和“Llady Gaga”等艺术家都在 Believe 上传的内容中。建议采取一种策略,尝试捕获仅输入错误的用户的流。

– 人们上传大量专辑,旨在成为流媒体欺诈专辑。”

另一个策略是创建AI翻唱流行歌曲并将它们放入流行的播放列表中,这样普通人就会播放它们。另一个涉及机器人“听”歌曲。 

今年早些时候,一丹麦男子被判入狱18个月使用机器人获得约 30 万美元的版税。另一个人,迈克尔·史密斯,被捕并被指控在七年内诈骗流媒体服务 1000 万美元。史密斯使用人工智能工具以假艺术家的名义创作了数十万首歌曲,例如“Calm Baseball”、“Calm Connected”和“Calm Knuckles”。然后他进行了流媒体播放检察官称,庞大的目录使用了机器人数十亿次。这转移了本应流向真正的音乐家、真正的人们真正聆听的音乐的资金。(Macowski 表示,在本案中,Spotify 仅向史密斯支付了 6 万美元,这表明该公司的保护措施起到了限制付款的作用。)

“人们上传大量专辑,旨在成为流媒体欺诈专辑”,Beatdapp(一家致力于防止流媒体欺诈的公司)的首席执行官安德鲁·贝蒂 (Andrew Batey) 表示。贝蒂估计,每年有 20 亿至 30 亿美元的艺术家通过这种欺诈行为被盗。 

分销发挥着重要作用。大多数发行商的商业模式都是从返还给艺术家和唱片公司的版税中提成。“即使他们可能没有参与欺诈,他们也直接从中受益,”贝蒂说。UMG 在诉讼中指控 Believe“错误地收取其明知应由数字音乐服务公司(例如 UMG 受版权保护的材料)支付的版税”。 

“到目前为止,我们基本上很幸运。”

复杂的欺诈操作将使用多个假标签和多个分销商,以避免出现单点故障。除了机器人帐户之外,许多不良行为者还可以访问真人被盗的帐户。“他们以你和我的身份登录,播放三遍他们的歌曲,然后离开,”贝蒂说。然后,该假流将隐藏在真实账户正在进行的所有真实收听中。

Gupta Music 并不是我发现的唯一进行批量上传的唱片公司。还有另外三个人也在做类似的事情:未来爵士唱片,古湖记录, 和击败街头音乐。他们还上传了数百张带有人工智能外观专辑封面的专辑。目前尚不清楚这些标签如何生成流(如果有的话)。截至出版时,大部分专辑已被删除。

元数据问题已经存在多年——有些是无辜的,有些则不那么严重。“到目前为止,我们基本上很幸运,”前 Spotify 员工格伦·麦克唐纳 (Glenn McDonald) 说道,他负责经营 Every Noise at Once。– 没有艺术家级别任何输入的内容验证系统相当疯狂。”

“正确的做法应该是,所有这些专辑都应该被标记为新艺术家,这样就没有什么关系了。”

当出现问题时,可以通过两个级别来解决:流媒体服务和分发商。分销商必须取得微妙的平衡。他们通过从流媒体支付中分得一杯羹来赚钱。如果他们在监管上传方面过于激进,合法艺术家就会被抓住。麦克唐纳说,解决这个问题的成本很高,而且分销是一项利润率低的大宗业务。但允许太多垃圾乐队通过会给流媒体服务带来问题。

至于流媒体服务,他们通常拥有可以让他们解决这个问题的数据。例如,如果通常上传标准专辑的发行商不是新专辑所使用的发行商,那么就可以使用这种方式来标记专辑以供审核。(厂牌的变化也是如此。)McDonald 告诉我,他还为 Spotify 构建了工具,用于识别某首歌何时听起来与艺术家目录中的其他歌曲不同。有时,这种情况可能出于正当原因而发生;Ed Sheeran 歌曲的 EDM 混音听起来不会像 Ed Sheeran,但在唱片公司和艺术家的认可下,它仍然可能发生。

此外,一些合法的艺术家有相同的名字,尤其是小型独立乐队,他们只是有单独的页面。“正确的做法应该是,所有这些专辑都应该被标记为新艺术家,然后就没有什么关系了,”麦克唐纳告诉我。 

此外,人工智能只是 Spotify 上存在多年的欺诈行为的助燃剂

对于发行商来说,最值得关注的是环球音乐集团的诉讼。预审会议定于一月举行。该诉讼的结果可能会改变发行商过滤人们试图通过其平台上传的音乐的方式,因为如果诉讼比内容审核更昂贵,那么可能会有更多的内容审核。这可能会改善他们下游的 Spotify 的情况。

仅仅禁止 Spotify 或分销商发布人工智能生成的内容可能感觉像是一个直观的解决方案。但尽管人工智能生成的媒体遭到强烈反对,人工智能生成的歌曲还是有合法的。例如,——10 醉烟来自 Girly Girl Productions 的《》非常受欢迎。(它也可能是人工辅助的,而不是完全由人工智能生成的。)UMG已与 Soundlabs 达成协议允许艺术家为自己使用 Soundlabs 的人工智能声音。它还与 Klay Vision 合作创建了一个生成音乐的模型。

此外,贝蒂表示,人工智能只是 Spotify 上多年来存在的一种欺诈行为的助长剂。诈骗者过去常常挖掘旧的、不起眼的专辑并将其数字化或稍微改变已经存在的歌曲。人工智能刚刚减少了制作假歌曲以获取流媒体资金所需的工作量。

与此同时……促进剂确实会使物质燃烧得更快。许多平台已经变得不那么有用了,因为它们被人工智能的浪潮所窒息——Facebook、Instagram、以前被称为 Twitter 的艺术家,甚至谷歌本身。

McDonald 表示,人工智能音乐对 Spotify 也构成了同样的威胁。他指出我一直在等待安妮的专辑,甚至对此感到兴奋。然而,我却被骗进了垃圾堆。“所有这些机制都围绕着假设这些东西是正确的,”他说。但现在,这些机制已经被打破——真正关心的人,比如艺术家本身,无法掌控一切。

关于《就连 Spotify 也无法免受人工智能的影响》的评论


暂无评论

发表评论

摘要

该文章讨论了 Spotify 等音乐流媒体平台面临的一个重大问题,即通过人工智能生成的歌曲和专辑上传欺诈内容。这个问题是多方面的,涉及发行商、流媒体服务以及潜在的法律影响,这些影响可能会重塑未来此类内容的审核方式。文章的要点包括:1. **通过虚假唱片公司批量上传**:Gupta Music、Future Jazz Records、Ancient Lake Records 和 Beat Street Music 等几个虚假唱片公司正在上传数百张带有人工智能生成的专辑封面的专辑。这种做法可能旨在产生欺诈性资金流以获取经济利益。2. **元数据问题**:当前,当在没有适当验证的情况下发生新的艺术家元数据或标签更改时,系统会陷入困境。当像 Standards 这样的知名乐队的新专辑被不熟悉的发行商上传时,理想情况下应该会触发举报过程。3. **分销挑战**:分销商在欺诈内容到达流媒体平台之前过滤掉欺诈内容方面发挥着至关重要的作用。他们需要在防止欺诈和避免拒绝合法艺术家上传之间取得平衡,考虑到他们的低利润商业模式,这可能具有挑战性。4. **法律后果(UMG vs Believe)**:环球音乐集团对 Believe 的诉讼至关重要,因为它可能会影响发行商未来处理人工智能生成内容的方式。如果诉讼变得比严格的内容审核成本更高,我们可能会看到实施更严格的过滤器。5. **人工智能在欺诈中的作用**:虽然人工智能在音乐制作中有合法用途(例如,UMG 与 Soundlabs 和 Klay Vision 的交易),但人工智能越来越多地被用来加速传统形式的欺诈。这包括将不知名的旧专辑数字化或稍微改变现有歌曲以获得欺诈性流媒体利益。6. **对用户体验的影响**:作者强调了这个问题如何影响用户体验,并提到一张假安妮专辑让等待发行的粉丝感到失望。7. **当前机制的局限性**:系统假设元数据和内容是正确的,而没有进行大规模的严格检查,这为利用留下了空间。此外,最关心维持质量控制的艺术家缺乏对这些机制的直接影响力。总之,虽然人工智能在音乐制作和发行方面提供了合法的好处,但它被滥用来生成欺诈性内容正在威胁 Spotify 等流媒体平台的完整性。解决这个问题需要分销商改进审核、流媒体服务更好的数据分析以及潜在的法律先例来激励更严格的过滤实践。