最近有机会观看 OpenAI 的视频生成工具 Sora 的演示，该工具周一在美国上映，它是如此令人印象深刻，让我对未来感到担忧。这项新技术的工作原理就像人工智能文本或图像生成器：编写提示，它会生成一个简短的视频剪辑。在我看到的发布前演示中，一位 OpenAI 代表要求该工具以自然纪录片的风格创建亚马逊树蛙的镜头。结果是异常真实的，航拍镜头俯冲到雨林，然后拍摄青蛙的特写。这种动物看起来就像任何自然纪录片主题一样生动而真实。
然而，尽管取得了技术上的壮举，当我看着树蛙时，我感到的更多是悲伤而不是惊讶。它看起来确实很像，但我们都知道我们所看到的并不是真实的。树蛙、它所攀附的树枝、它居住的雨林：这些东西都不存在，而且它们也从未存在过。这个场景虽然视觉上令人印象深刻，但却是空洞的。
视频是 AI 的新领域，OpenAI 在首次推出 Sora 后最终在美国推出了 Sora二月戏弄它，Meta 宣布推出自己的文本转视频工具，电影一代，十月。谷歌做出了它的Veo 视频生成器本月向部分客户提供。我们准备好迎接一个无法辨别我们所看到的移动图像是真实的世界了吗？
在过去几年中，我们见证了生成式人工智能文本和图像生成器的激增，但视频感觉风险更大。从历史上看，动态图片比静态图片更难伪造，但生成式人工智能即将改变这一切。此类技术存在许多潜在的滥用情况。诈骗者已经在使用人工智能冒充他人朋友或家人的声音，以骗取金钱。虚假信息贩子利用深度造假来支持他们的政治议程。勒索者和施虐者制作受害者的虚假性图片或视频。我们生活在一个世界上，有些人安全研究人员现在建议家庭采用秘密密码，这样当他们需要寻求帮助时，他们就可以证明自己确实是他们所说的人。
这些工具的创建者似乎意识到了风险。在公开发布之前，开放人工智能仅向选定的创意合作伙伴和测试人员开放访问权限。Meta 也在做同样的事情。这些工具包含各种保护措施，例如限制人们可以使用的提示：例如防止视频出现公众人物、暴力或性内容。默认情况下，它们还包含水印，以标记视频是使用人工智能创建的。
虽然更极端的滥用可能性令人震惊，但我发现低风险视频造假的前景几乎同样令人不安。如果您看到某个政客做出如此令人难以置信的令人难以置信的事情的视频，无论如何您都可能会持怀疑态度。但 Instagram 创作者的短剧呢？Facebook 上的可爱动物视频？一台电视可口可乐的广告？当我们周围的图像变得越来越脱离现实时，即使是最平凡的内容也必须进行事后猜测，这种想法有点无聊的反乌托邦。
当我看着人工智能生成的树蛙时，我主要想知道它的意义是什么。我当然可以看到人工智能在 CGI 创意电影制作中的实用性，但一部虚假的自然纪录片似乎是一个奇怪的选择。我们都惊叹于此类节目中令人惊叹的视觉效果，但我们的敬畏不仅仅是因为图片漂亮：而是因为它们是真实的。它们让我们看到了我们原本无法看到的世界的一部分，而获取镜头的难度也是其吸引力的一部分。我最喜欢的一些自然纪录片片段是《我们的星球》等节目中的幕后剪辑，这些片段揭示了摄影师在特制的隐蔽处默默等待了多长时间来捕捉稀有物种，或者他们如何偷工减料他们的设备以获得完美的拍摄效果。当然，人工智能视频永远无法达到这种真正新颖的标准。根据现有内容进行训练，它只能生成以前见过的内容的片段。
也许视频的制作方式并不那么重要。树蛙就是树蛙，一项调查表明，只要我们不这样做知道图像是由AI制作的，我们同样喜欢它。如此多的人工智能媒体所固有的欺骗性让我感到不安。即使是 2024 年模因英雄 Moo Deng 最模糊的真实照片也比一张照片包含更多的生命。Movie Gen 河马宝宝游泳的视频，无论渲染得多么光滑，在眼睛后面都是死的。
随着人工智能内容变得越来越令人信服，它也面临着毁掉真实照片和视频的风险。我们不能再相信自己的眼睛，被迫成为业余侦探，只是为了确保我们购买的钩针图案实际上是可构造的，或者我们正在关注有问题的家具真的 以物理形式存在。我最近浏览 Instagram 并与我丈夫分享了一段兔子吃生菜的可爱视频。这是一个完全良性的剪辑——但也许有点也可爱的。他问道，是人工智能吗？我不知道。即使不得不问这个问题也会削弱这一刻和视频的可爱性。在一个一切都可能是假的世界里，一切都可能是假的。
-
维多利亚·特克 (Victoria Turk) 是一位驻伦敦记者，报道技术、文化和社会问题