人工智能生成的虚假梅丽莎飓风视频淹没了社交媒体网站

一段广为流传的视频显示，据称由于洪水引发的洪水，似乎有四只鲨鱼在牙买加一家酒店的游泳池里游泳。飓风梅丽莎淹没该地区。据称，另一张照片描绘了牙买加金斯顿机场被风暴完全摧毁的情况。但这些事件都没有发生，这只是本周风暴席卷加勒比海时人工智能生成的错误信息在社交媒体上流传。

这些视频和其他视频已获得数百万次观看社交媒体平台，包括 X、TikTok 和 Instagram。

有些片段似乎是拼接在一起的或基于旧灾难的镜头。其他的似乎完全是由人工智能视频生成器创建的。

– 我加入了很多 WhatsApp 群组，并且看到所有这些视频。其中许多都是假的，”牙买加教育部长达纳·莫里斯·迪克森 (Dana Morris Dixon) 说道星期一。“因此我们强烈建议您收听官方渠道。”

尽管恶作剧照片、视频和错误信息在自然灾害期间经常出现，但它们通常很快就会被揭穿。但新的人工智能工具生成的视频使创建和传播逼真的剪辑变得容易，从而将问题提升到了一个新的水平。

在这种情况下，这些内容与当地居民和新闻机构拍摄的真实镜头一起出现在社交媒体中，在社交媒体用户中造成了混乱。

您可以采取以下几个步骤来减少上当受骗的机会。

检查是否有水印

寻找表明视频是由 ChatGPT 制造商 OpenAI 推出的文本转视频工具 Sora 或其他 AI 视频生成器生成的水印徽标。这些通常会出现在视频或照片的一角。

使用第三方工具删除这些徽标非常容易，因此您还可以检查水印应有的位置是否模糊、像素化或变色。

仔细看看

仔细观看视频，找出不清楚的细节。虽然泳池里的鲨鱼视频乍一看似乎很真实，但仔细一看却显得不太可信，因为其中一条鲨鱼的形状很奇怪。

您可能会看到混合在一起的物体，或者标志上的字母等细节出现乱码，这些都是人工智能生成图像的明显迹象。品牌也是需要注意的，因为许多平台对复制特定公司徽标持谨慎态度。

专家表示，随着技术的进步，区分现实和深度伪造品之间的区别将变得越来越困难。

专家指出，梅丽莎是 OpenAI 推出最新版本视频生成工具以来的首场重大自然灾害索拉上个月。

“现在，随着像 Sora 这样易于访问且功能强大的工具的兴起，不良行为者更容易制作和分发极具说服力的合成视频，”分析在线虚假信息的 NewsGuard 高级编辑索菲亚·鲁宾森 (Sofia Rubinson) 说。

– 过去，人们通常可以通过不自然的动作、扭曲的文字或缺失的手指等明显迹象来识别假货。但随着这些系统的改进，其中许多缺陷正在消失，使得普通观众越来越难以区分人工智能生成的内容和真实的镜头。”

为什么要围绕危机制造深度伪造品？

人工智能专家亨利·阿杰德 (Henry Ajder) 表示，他看到的大多数飓风深度假货本质上都不是政治性的。他怀疑它“更接近于更传统的基于点击的内容，即尝试获得参与度，尝试获得点击。”

在 X 上，用户可以根据其帖子的参与度获得报酬。YouTuber 可以通过广告赚钱。

阿杰德说，一段观看次数达到数百万次的视频可以为创作者带来数千美元的收入，这对于所需的努力来说已经相当不错了。

阿杰德说，社交媒体帐户还使用视频来扩大粉丝群，以推广项目、产品或服务。

因此，请检查谁发布了该视频。如果该帐户有点击诱饵式内容的记录，请持怀疑态度。

但请记住，深度伪造视频背后的人并不总是试图隐藏。

“一些创作者只是试图利用人工智能来做一些有趣的事情，他们认为这些事情会引起人们的注意，”他说。

那么这个账户的幕后黑手是谁呢？

虽然目前还不清楚到底是谁制作了泳池鲨鱼视频，一个版本Instagram 上发现带有 TikTok 帐户 Yulian_Studios 的水印。该帐户的 TikTok 个人资料用西班牙语将自己描述为“多米尼加共和国拥有人工智能视觉效果的内容创作者”。

在该帐户的页面上找不到鲨鱼视频，但它确实有另一个人工智能生成的视频，显示牙买加飓风吹过时，一名肥胖男子紧抓一棵棕榈树。

相信你的直觉

背景很重要。花点时间考虑一下您所看到的是否合理。波因特新闻网站建议如果你看到一种看起来“夸张、不现实或不符合实际情况”的情况，请考虑它可能是深度伪造的。

这包括音频。人工智能视频过去常常带有合成画外音，节奏或语气不寻常，但较新的工具可以创建听起来逼真的同步声音。

如果您在 X 上找到它，请务必检查是否附加了社区注释，这是该平台的用户驱动的事实检查工具。

X 上的鲨鱼池视频的一个版本附带了一份社区说明，其中写道：“该视频片段和使用的声音都是由人工智能创建的，它不是牙买加梅丽莎飓风的真实片段。”

前往官方来源

不要仅仅依靠互联网上随机的陌生人来获取信息。牙买加人政府一直在发布风暴更新，所以国家飓风中心。