AI 深度伪造和“武器化天气”误导信息针对飓风受害者 - Decrypt
作者：Decrypt / Jason Nelson
在飓风赫利恩之后，一波由人工智能生成和人为驱动的虚假信息继续涌入社交媒体，歪曲了恢复工作的实际情况，并制造了关于飓风米尔顿的新、没有根据的恐惧。
根据无党派的事实核查网站Politifact，社交媒体已成为虚假信息传播的源头。 misinformation自从上个月飓风赫利奥妮登陆以来，一直在放大虚假叙事。而现在，随着飓风米尔顿袭击佛罗里达州的墨西哥湾海岸，一波新的荒谬言论正在X和Facebook上蔓延。
阴谋论者或许因众议院议员玛乔丽·泰勒·格林上周发布的一条推特而更加大胆，她在推特中声称一些“匿名的人控制天气”，如今这些人回應她的怪異聲明声称最新的飓风是人为制造的。
政府操纵飓风有多容易？考虑到他们从1947年开始就在做这件事，他们已经积累了大量的实践经验。
现在有报道说一个新的风暴系统“米尔顿”将于本周晚些时候袭击佛罗里达州（另一个红州）。我们什么时候才能不再把这些事件归因于巧合？……pic.twitter.com/d4xw70MhFk— Drew (@TruDrewdoggKC)2024年10月7日
飓风米尔顿看起来正被这些NEXRAD雷达引导着朝佛罗里达州前进。你看到的蓝色波浪是雷达信号的指示。这也让人觉得这个飓风可能是人造的。pic.twitter.com/ThI1BCYtN9
— 深态照亮 (@TheDeep_State6)2024年10月6日
这是人们利用社交媒体放大谎言和虚假信息的最新例子——通常有由人工智能生成的深度伪造内容的帮助。在一个例子中，这在Facebook上被分享超过164,000次例如，一个由人工智能生成的图像显示特朗普在飓风海莲娜洪水区域帮忙。另一张图片显示拜登总统救猫.
在像这样的大规模应对中，我们总会看到一定程度的 misinformation 或者混乱。这就是游戏和灾难的本质。显然，今年这种情况已经达到了顶峰。”，美国红十字会区域通讯总监凯蒂·巴尔彭告诉解密所以我们启动了大规模的社交媒体宣传活动，直接向人们普及知识，不再绕圈子。我们直言不讳地称之为错误信息，并提供正确的信息。
灾害发生后，错误信息可能会迅速传播，导致社区在努力恢复期间产生困惑和不信任。不幸的是，在我们应对飓风海伦的响应中，这种情况正在发生。
在网上分享未经核实来源和事实的消息……pic.twitter.com/nSfvE12JBc
— 美国红十字会 (@RedCross)2024年10月3日
她说Facebook和Twitter上虚假信息的增加尤其令人担忧。
一个AI生成的图像，共享的艾米·克雷默（Amy Kremer），RNC全国委员会成员发布的一张小女孩抱着小狗的照片在X（原推特）上被观看了三百多万次。
推特用户使用了“社区备注”功能来指出该图片是假的。
“伪造的生成式AI技术被称为‘终极 misinformation 放大器’，社区公告称。“因此，识别此类虚假图像尤其重要，尤其是在政客使用它们时。”
巴伦杰表示，红十字会自身也遭到了 misinformation 的攻击，质疑它是否真的在现场。“还有说法称我们误用了捐赠给红十字会的物资捐助，”她说，并指出“红十字会不接受实物捐赠，因为我们专注于提供庇护、食物和大规模援助。我们会与合作伙伴协作来管理这些捐赠。”
特朗普直接飞往瓦尔多斯塔向海莲受灾民众运送急需物资。
拜登整个周末都在海滩上。
卡马拉摆拍了一张电话通话的照片。pic.twitter.com/inPq15OpPC
— 反觉醒 (@EndWokeness)2024年9月30日
一如既往，打击谣言和AI生成的深度伪造的最佳方式是通过官方沟通渠道和可信来源主动分享准确及时的信息。
阿什维尔市消防部门的一名发言人表示：“为了打击谣言，我们依赖于通过我们的渠道和合作伙伴的渠道传播正确的信息。”解密“为了获得最及时和准确的信息，人们应该关注官方渠道”频道.”
问题变得如此严重，以至于美国联邦紧急事务管理局(FEMA)已经采取行动。发布了谣言清单并试图通过社交媒体传播事实以纠正不实信息。
然而，新兴信息科技被使用的方式中有一线希望。Monica Youngman，首席科学家表示，科学技术整合在美国国家海洋和大气管理局，表示AI被用于翻译 （由于提供的文本仅为“translate”，没有具体的句子或段落需要翻译，因此返回了原文。）并用五种以上的语言传播关于严重天气事件的事实。
“这肯定有帮助，并且有助于接触之前我们无法触及的社区，”她说道。解密“当一个社区的主要语言不是英语时，这对社区有很大的影响。所以我们真正想要做到的是确保他们能够尽快并且尽可能轻松地获得权威和可靠的信息。”
通用智能通讯newsletter
由生成式AI模型Gen讲述的一周人工智能之旅。
暂无评论