Meta 推出了一款为人工智能生成的视频添加水印的工具 |TechCrunch

扔一块石头，你很可能会击中深度赝品。生成式人工智能的商品化导致在线虚假内容绝对爆炸：根据身份验证平台 Sumsub 的数据，从 2023 年到 2024 年，全球深度伪造品数量增加了 4 倍。2024 年，深度伪造品占所有欺诈的 7%根据 Sumsub 的说法，其范围从假冒和帐户接管到复杂的社会工程活动。

Meta 希望能够为打击深度造假做出有意义的贡献，它正在发布一种工具，可以将难以察觉的水印应用于人工智能生成的视频剪辑。该工具于周四发布，名为 Meta Video Seal，以开源形式提供，旨在集成到现有软件中。该工具与 Meta 的其他水印工具、Watermark Anything（今天在许可下重新发布）和 Audio Seal 一起加入。

“我们开发 Video Seal 是为了提供更有效的视频水印解决方案，特别是用于检测 AI 生成的视频并保护原创性。”Meta 的 AI 研究科学家 Pierre Fernandez 在接受 TechCrunch 采访时表示。

Video Seal 并不是同类技术中的第一个。DeepMind 的合成ID可以为视频添加水印，并且 Microsoft有自己的视频水印方法。

但费尔南德斯断言，许多现有方法都存在缺陷。

– 虽然存在其他水印工具，但它们无法为视频压缩提供足够的鲁棒性，而视频压缩在通过社交平台共享内容时非常普遍；效率不够高，无法大规模运行；不开放或不可复制；或源自图像水印，这对于视频而言不是最佳选择，”费尔南德斯说。

除了水印之外，Video Seal 还可以向视频添加隐藏消息，稍后可以发现这些消息以确定其来源。Meta 声称 Video Seal 对模糊和裁剪等常见编辑以及流行的压缩算法具有弹性。

费尔南德斯承认 Video Seal 有一定的局限性，主要是该工具水印的可感知程度与其整体的操纵弹性之间的权衡。他补充说，大量压缩和重大编辑可能会改变水印或使其无法恢复。

当然，Video Seal 面临的更大问题是开发人员和行业没有太多理由采用它，特别是那些已经使用专有解决方案的人。为了解决这个问题，Meta 推出了一个公共排行榜 Meta Omni Seal Bench，致力于比较各种水印方法的性能，并于今年在重要的人工智能会议 ICLR 上组织了水印研讨会。

“我们希望越来越多的人工智能研究人员和开发人员将某种形式的水印集成到他们的工作中，”费尔南德斯说。“我们希望与业界和学术界合作，在该领域取得更快的进展。”