OpenAI 没想到 Sora 的版权剧

当 OpenAI 发布其新的人工智能生成视频应用 Sora上周，它推出了针对版权所有者的选择退出政策——媒体公司需要明确表示他们不希望人工智能生成的角色在该应用程序上猖獗。但几天后纳粹海绵宝宝、犯罪皮卡丘和索拉哲学瑞克和莫蒂，OpenAI 首席执行官山姆·奥尔特曼宣布该公司将改变方向，“让权利持有者决定如何继续。”

在回答 OpenAI 为什么改变政策的问题时，Altman 表示，这是与利益相关者交谈后做出的，并表示他没有预料到会引起强烈抗议。

“我认为理论上人们会有什么感觉，然后实际看到这个东西，人们会有不同的反应，”奥特曼说。“感觉与图像比人们预期的更不同。”

类似 TikTok 的 Sora 应用程序提供了无限滚动功能，并且能够创建 10 秒的视频（包含音频），内容几乎可以包含任何内容，包括人工智能生成的自己（称为“客串”）以及任何同意您使用其肖像的人。虽然它试图限制对不在应用程序上的人的描述，但事实证明，它的文本提示完全能够生成受版权保护的角色。

奥特曼说，许多版权持有者都很兴奋，但他们想要“更多的控制”，并补充说《索拉》很快就变得非常受欢迎……我们认为我们可以放慢速度；但我们认为我们可以放慢速度。但这并没有发生。”

“我们显然非常关心权利人和人民，”他说。“我们希望构建这些额外的控件，但我认为您会看到许多主要内容都受到限制，可以做什么和不能做什么。”

Altman 表示，在该系统的早期采用者中，他很惊讶人们对于允许人们使用 Sora 上的肖像制作人工智能生成的视频抱有“介于两者之间”的感觉。他说，他预计人们要么愿意尝试公开他们的客串，要么不愿意，但不会有那么多细微差别，因此这就是该公司最近推出更多限制的原因。奥特曼说，很多人已经改变了主意，决定是否希望自己的客串被公开，但“他们不希望自己的客串说出令人反感的事情或他们认为有严重问题的事情。”

Bill Peebles，OpenAI 的 Sora 负责人，发布于 X周日，团队收到“很多人的反馈，他们希望让每个人都可以使用他们的客串，但保留对其使用方式的控制权”，并补充说，现在用户可以通过向 Sora 发送的文本指令来指定如何使用他们的客串，例如“不要让我出现在涉及政治评论的视频中”或“不要让我这么说”词。 –

Peebles 还表示，该团队正在研究如何使下载视频上的 Sora 水印“更清晰、更明显”。许多人对此表示担忧。错误信息危机根据网上流传的视频教程，这自然可能来自超现实的人工智能生成的视频，特别是当表示它们是人工智能生成的水印不是很大并且可以轻松删除时。

“我也知道人们已经在寻找删除它的方法，”奥特曼在周一的问答中谈到水印时说道。

Altman 在 DevDay 的主题演讲中表示，公司将立即发布 Sora 2 的预览版OpenAI 的 API，允许开发人员访问为 Sora 2 提供动力的相同模型，并根据自己的目的创建超现实的人工智能生成视频，表面上没有任何水印。在接受记者采访时，当被问及公司将如何在API中对Sora 2实施保障措施时，Altman没有具体回答问题。

奥特曼表示，他对仅为群聊生成视频的需求量感到惊讶，即仅与一个人或少数人分享，但范围不超过此。他说，虽然这很受欢迎，但“它不太适合当前应用程序的工作方式。”

他将此次发布的减速带定位为学习机会。“我们拥有唯一好的视频模型的时间不会太长，将会有大量视频没有我们的保障措施，这很好，这就是世界运转的方式，”奥特曼说，并补充道，“我们可以利用这个窗口让社会真正理解，嘿，竞争环境发生了变化，我们可以生成几乎现在在某些情况下视频无法区分，您必须为此做好准备。”

Altman 表示，他觉得人们​​不会在公司内部谈论 OpenAI 技术时关注它，而只会在发布该技术时关注它。“我们必须拥有……这种技术和社会的共同进化，”奥特曼说。——我相信这是有效的，而且我实际上不知道还有什么其他有效的方法。显然，社会将面临与这种质量作斗争的挑战，而随着视频的产生，这种质量将会变得更好。但据我们所知，帮助缓解这一问题的唯一方法是让世界体验它并弄清楚它会如何发展。”

这是一个有争议的观点，尤其是对于人工智能首席执行官而言。自人工智能存在以来，它的使用方式就对少数族裔和弱势群体产生了不成比例的影响——范围从错误的 逮捕到人工智能生成 复仇色情片。OpenAI 为 Sora 设置了一些护栏，但如果历史（以及上周）有任何指导意义，人们就会找到绕过这些护栏的方法。水印去除器已经在网上激增，一些人使用“神奇橡皮擦”类型的工具，另一些人编写自己的方法来令人信服地去除水印。目前，文本提示不允许在未经许可的情况下生成特定的面孔，但人们可以据称已经绕过了该规则生成足够接近的人像以灌输恐惧或发出威胁，并制作暗示性视频，包括女性持有假阳具之类物体的视频。

当被问及 OpenAI 的计划是否会转化为“快速行动、打破陈规”的做法时，Altman 表示，“一点也不”，并补充说，用户目前对 Sora 的批评倾向于说该公司“限制太多”和“审查制度”。他表示，该公司正在谨慎地开始推出，并且– 随着时间的推移，我们会找到允许更多的方法。 –

Altman 表示，在 Sora 上实现盈利“不是我最关心的十大问题，但是……显然有一天我们必须实现非常有利可图的盈利，而且我们有信心和耐心，我们会实现这一目标。”他说，目前公司正处于“积极投资”的阶段。

无论最初遇到什么困难，OpenAI 总裁格雷格·布罗克曼 (Greg Brockman) 表示，他对 Sora 的采用曲线感到震惊，甚至比 ChatGPT 的采用曲线还要强烈。它在 Apple App Store 的免费应用程序列表中始终位居榜首。“我认为这有点预示着未来——我们不断回到这一点：我们将需要更多的计算，”他说。“从某种程度上来说，这是迄今为止 [Sora] 发布的首要教训。”

这本质上是 OpenAI 与软银和甲骨文的合资企业 Stargate 的一次宣传活动，旨在加强美国的人工智能基础设施，一开始投资 1000 亿美元，在四年内累计投资 5000 亿美元。唐纳德·特朗普 (Donald Trump) 总统大力支持这一合资企业，而 OpenAI 也大力支持宣布德克萨斯州、俄亥俄州和新墨西哥州的一些新数据中心站点。这高耗能项目一直备受争议，而且他们通常能够与某个组织的员工一起运行几百人尽管承诺会创造大规模就业机会，但在初步建设之后。

但 OpenAI 正在全速前进。周一，它与芯片制造商 AMD 达成了一项协议，该协议可能允许 OpenAI 采取行动10% 股权。几个小时后，在与记者的问答中，奥特曼被问及该公司对构建自己的芯片有多大兴趣。“我们对全栈人工智能基础设施感兴趣，”他回答道。还有一次，他告诉记者，他们应该“期待听到更多”来自 OpenAI 的基础设施堆栈方面的信息。

在会议期间，OpenAI 高管一遍又一遍地强调计算能力的缺乏，以及它会在多大程度上阻碍 OpenAI 及其竞争对手大规模提供服务。

“问“你想要多少计算能力？”有点像问“你想要多少劳动力？”布罗克曼说。“答案是，你总是可以从更多中获得更多。”现在，更多的深度伪造朋友的能力是最新的卖点。