好莱坞是一个建立在相似度和名气基础上的产业。但消费者正在进入一个任何人的肖像都可以被选择的世界，人工智能-生成的深度赝品激增。

YouTube全球最大的视频平台开发了一种解决方案。现在它正在向好莱坞开放。

谷歌旗下平台的高管表示好莱坞报道者他们专有的 Deepfake 检测工具经过多年的开发，现在向任何有可能被滥用的高风险的人开放：演员、运动员、创作者和音乐家，无论他们是否拥有 YouTube 频道，都可以在其平台上注册以识别并请求删除 Deepfake。

YouTube 首席商务官玛丽·艾伦·科 (Mary Ellen Coe) 在接受 YouTube 采访时表示，“我认为这是责任的基础层”THR。“自从通过人工智能工具进行思考以及对平台的影响以来，我们已经在这方面努力了一段时间了……坦率地说，我们还没有看到可能的载体，我们正在与人才机构和第三方管理公司密切合作，以确保公众人物能够在负面事件发生之前真正走在这一步。”

YouTube 在大约一年半前首次开始测试该工具，几个月后将其扩展到其平台上一些最著名的创作者，并于今年早些时候扩展到选定的政客和公职人员，但现在大门已正式向那些最有可能因该技术而生计受损的人敞开。

“YouTube 提供的服务是什么，我不会对很多科技公司这么说，但出于他们内心的仁慈，他们免费向人才提供这些工具，这样他们就可以保护自己的财产，这是正确的事情，”管理和制作公司 Untitled Entertainment 的合伙人贾森·纽曼 (Jason Newman) 说道。– 他们的房地产就是他们的脸面。他们的财产就是他们的身体。他们的资产就是他们是谁、他们做什么、他们怎么说。”

该工具扩展的时机恰逢行业努力应对跨平台深度造假的持续增长，以及视频模型迅速将假设的最坏情况变成许多明星的现实。

虽然每个人都记得他们第一次看到的时候深度伪造教皇弗朗西斯穿着蓬松的外套（这是第一批捕捉公众想象力的深度伪造照片之一），仅过去六个月就为好莱坞带来了一位高层消息人士所说的两个“糟糕的时刻”。

去年秋天，OpenAI 推出了 Sora 应用程序，大量流行角色和 IP 迅速涌入该应用程序，其中包括扮演电影和电视角色的演员的熟悉面孔，以及像马丁·路德·金这样的历史人物，他们的人工智能肖像被用户操纵。OpenAI 最终阻止了 MLK 和 IP 驱动的深度造假（当然，它上个月完全关闭了 Sora），但损害已经造成。

然后在二月份，由 Seedance 2.0 制作的布拉德·皮特 (Brad Pitt) 与汤姆·克鲁斯 (Tom Cruise) 战斗的视频像野火一样在互联网上传播。正如一位消息人士指出的那样，这给好莱坞敲响了警钟：深度造假不仅存在，而且正在以闪电般的速度发展。

“在一天之内，中国人工智能服务 Seedance 2.0 就大规模未经授权使用了美国版权作品，”MPA 总裁兼首席执行官查尔斯·里夫金 (Charles Rivkin) 表示，电影明星之间的虚假战斗视频正在传播。

“如果你考虑公众人物、名人，那么你的形象和声誉对你的生计至关重要，”科说。“这种可能以某种方式被破坏的想法确实是一个重要的概念，因为我认为人们已经谈论过这样的例子，他们能够拥有某种程度的控制力和管理能力，这一点非常重要。”

YouTube 首席商务官 Coe 在三年多前就开始考虑开发 Deepfake 检测工具，当时该公司在首席执行官 Neal Mohan 的领导下开始挖掘该平台上生成人工智能的潜力。

Mohan 当时撰写了一篇题为“我们在人工智能技术方面与音乐行业合作的原则”的博文，其中写道，“在这个关键的转折点，很明显，我们需要大胆地拥抱这项技术，同时继续承担责任。”

当然，这并不仅限于音乐产业。当时，人工智能生成的音频正在激增，最先进的视频模型仅限于原始（且可怕的）“威尔·史密斯吃意大利面”的例子。同年晚些时候，YouTube 添加了第一个大规模的新一代人工智能工具“Dream Screen”。

但随着技术的进步，YouTube 的努力也在进步。它从 Content ID 中汲取了灵感，Content ID 是该平台的系统，用于识别上传到其服务器的受版权保护的内容。

“这是相同的概念，即他们管理自己身份的能力以及其在公共市场上的显示方式，”科说。

它的工作原理如下：名人、创作者或公众人物（或更可能是他们的经纪人、经理或团队的其他成员）选择加入，并将他们的肖像上传到系统中。名人可以拥有自己的 YouTube 频道，或者重要的是，他们可能没有面向公众的 YouTube 页面，但仍然可以选择加入。然后系统会扫描 YouTube 并标记潜在的复制品，供该名人的团队进行审查。他们可以选择保留，或请求删除。

话虽如此，删除请求并不能保证 YouTube 会删除该视频。

“在许多情况下，例如模仿和讽刺，我们的社区准则允许其保留在平台上，”科说。事实上，YouTube 长期以来一直允许恶搞内容，即使它具有已知人物的相似性（可以预期，任何使用 Deepfake 技术的恶搞视频都会被标记为承认其使用）。

如果要求的话，那些带有“现实且后果严重的贬低”，或许更重要的是“内容替换”的视频将被删除。

“如果有人正在做某件事的精确复制品，因为它是字面上的内容替换，所以会限制名人、演员或创作者的生计，那么这将被包含在删除中，”她补充道。换句话说，如果有人使用 Deepfake 技术制作的视频与该人的知名内容非常相似，那么该视频就有资格被删除。

这是否适用于粉丝制作的电影预告片还有些模糊。

YouTube 于 2024 年底开始通过 CAA 的试点计划测试该工具。

CAA 战略发展主管 Alex Shannon 表示：“我们与 YouTube 合作的目的是确保我们能够尽可能领先并通过保护我们的客户来正确行事，同时确保粉丝和消费内容的人免受误导性内容的影响。”– 坦率地说，大多数由人工智能生成的、以我们的客户为特色的内容被发现时，通常都是偶然的。最重要的是，当事情被发现时，很多声誉损失已经造成。”

“保护人才的声誉和生计是他们的工作，在这个行业，声誉就是一切，”科说，并补充说，试点项目很早就证明了自己：“坦率地说，他们有几个公众人物的肖像被拉拢，这在某些情况下敲响了警钟，并产生了紧迫感。”

该平台随后扩大了试点范围，增加了更多符合条件的人员，最终形成了今天的新闻。

“我们认为 YouTube 的肖像保护是一个建设性的早期步骤，主要是因为它让我们的客户能够在世界上最大的搜索引擎之一上以及他们已经了解的系统中获得可见性，”UTA 合伙人 Lesley Silverman 说道。“我认为该计划的重要之处在于它是免费的，可以选择加入，甚至对于不积极在 YouTube 上发帖的公众人物也可以实施。”

但好莱坞与深度造假和人工智能的关系比表面上看起来更为复杂。虽然漫不经心的观察者可能会认为这项技术不屑一顾，但人才和高管似乎比表面上看起来更加开放。

例如，CAA 投资了两家 Deepfake 业务公司 Metaphysical 和 Deep Voodoo，押注于其创意用例。

但迪士尼与 OpenAI 的不幸交易是一个早期信号，表明娱乐公司认为这项技术不仅仅是增强生产能力的工具。它可以是粉丝参与工具。

华纳兄弟影业联合首席执行官帕姆·阿卜迪 (Pam Abdy) 上周在 CNBC 会议上被问及有关人工智能生成的粉丝预告片激增的问题时，捕捉到了这一观点。实用魔法2。

“我知道这不是很好，但它也很令人兴奋，因为这意味着人们对它有渴望，也意味着人们想来玩这部电影，”阿卜迪说。

“我的形象可能会更糟，”打趣道实用魔法2明星桑德拉·布洛克与阿卜迪一起接受采访。——它就在这里。我们必须观察它。我们必须理解它。我们必须依靠它……我的意思是，我们必须非常谨慎并意识到这一点，因为有些人会利用它来作恶而不是行善。”

事实上，YouTube 高管表示，在试点计划期间，许多创作者只要求删除一小部分被标记的内容。

一位 YouTube 大型创作者表示，他们看到的大多数人工智能生成的内容都是良性的，甚至是积极的和支持性的。

这似乎比皮特大战克鲁斯的病毒例子所暗示的更为普遍，粉丝制作的假预告片比贬低视频更常见。

“我认为肯定有人会认为任何形式的相似性使用都应该得到同意，而且我认为这也是一个公平的论点，”香农说。“但平均而言，我们看到更多的人对粉丝的参与感到兴奋，并希望以某种形式庆祝他们。”

“现实情况是，这些内容正在制作中，已经存在了，”西尔弗曼说。– 因此，问题实际上是人才是否能够了解这一点，以及是否有回应机制。我认为鉴于此功能，现在就有了响应能力。”

而这反过来又导致了更加复杂的货币化问题。

借助 Content ID，版权所有者可以要求删除侵权视频、取消其货币化，或者通过与上传者分享收入来货币化。

在一个以相似为IP的世界里——名人很快就能通过粉丝制作的深度赝品赚钱吗？

值得注意的是，YouTube 的工具可以不目前已经具备该功能，尽管 Coe 将其视为他们正在考虑的长期目标。“我们需要真正关注责任和保护的这一基础层，然后我们会考虑权利持有者，以及我们如何考虑货币化，”科说。

“但现在，真正重要的是那层责任。”

当然，经纪人、经理和律师已经在想得更远了，尤其是因为通过深度造假来将自己的肖像货币化的想法非常复杂。CAA 甚至还有一款名为“CAA Vault”的产品，其中保存了客户的肖像，以提供未来潜在的货币化机会。

“当然，这是一个需要尝试解决的极其复杂的问题，我们正在积极思考，”香农说。如果您谈论的是具有某一特定人才的视频，这是一回事，如果您谈论的是具有两种不同人才的视频，而一个可以接受，而一个则不行，或者一个是知名明星，一个是后起之秀，那就是另一回事了。我认为这很复杂。”

但人工智能和深度造假已经成为 YouTube 思考的最前沿，并押注它可以帮助其创作者进行管理，尽管合成内容和深度造假带来的风险也有其自身的风险。

在今年早些时候给 YouTube 创作者的年度信中，莫汉将其列为他的四个优先事项之一，并指出深度伪造是一个焦点。

“最终，我们致力于确保 AI 为那些让 YouTube 变得伟大的人们服务：创作者、艺术家、合作伙伴以及数十亿希望捕捉、体验并分享与周围世界更深入联系的观众，”他写道。

但即使货币化最终没有实现，YouTube 为识别其平台上的深度造假而创建的技术也是必要的、谨慎的，并且正如多个消息来源所强调的那样，对于一个处于技术颠覆之中的行业来说非常重要。最终，它可能对任何面临成为攻击目标风险的人有所帮助。

——这就像火灾保险，对吧？你不会认为它会发生在你身上，直到它真的发生，然后它真的是灾难性的，你会庆幸自己拥有它，”科说。– 我认为心灵的平静和控制是真正重要的好处。我们事后听到的安心感是真实存在的。”

或者正如纽曼所描述的那样：当金·卡戴珊 (Kim Kardashian) 旅行时，她身边始终都有安全保障。为什么在数字世界中您周围没有安全保障？

这个故事出现在《好莱坞报道》即将于 4 月份出版的《人工智能》专刊中。