三河，密歇根州 –上周致命的龙卷风留下了一系列在网上疯传的人工智能图像和视频。

当人们搜寻相关信息时突然而强烈的风暴3 月 6 日星期五，在密歇根州西南部，许多人发现了虚构的图像和视频，其中许多都被当作真实的东西呈现。

在三河着陆后不到一个小时，人工智能创造者就抓住了利用这场灾难的机会。

照片和视频很快收集了数百条评论、点赞和分享。

问题是：它们不是真实的。

仔细观察会发现一些图像和视频是人工智能生成的，尽管许多评论者根据他们的在线反应似乎认为它们是真实的。

有些帖子没有任何文字说明它们是人工智能生成的。

帖子上留下的评论表达了对在这种情况下使用人工智能的厌恶。然而，此类负面评论只会有助于提高 Facebook 帖子的参与度，从而推动它们像病毒一样传播。

“真实的灾难、人工智能视觉效果、全球意识，”一个发布人工智能视频的 Facebook 页面说道。– 当地球移动时，我让世界看到它。 –

有些人并不那么印象深刻。

“这些人的生活被彻底颠覆，”联合市前居民戴尔·米勒说。“他们应该得到更好的待遇，而不是让某些人发布虚假内容，这样他就可以得到他的欢乐或踢球或其他任何东西。”

米勒现在住在马尼斯蒂县外。他和其他人转向社交网络获取信息。

他说，看到这么多虚假的人工智能图像令人沮丧。

西密歇根大学传播学教授苏·艾伦·克里斯蒂安（Sue Ellen Christian）表示，她在教授媒体素养时经常处理这个问题。

“在像龙卷风这样的情感时刻，人们正在寻找信息，并且很容易被操纵，对扭曲或完全被操纵的信息做出反应、分享和恐慌，”克里斯蒂安说。

如何识别 AI 图像

这些图像显示了巨大的破坏，甚至远处有龙卷风。但看看细节。

克里斯蒂安说，标牌上的乱码文字（不完全是“三河”）是可以帮助识别人工智能的危险信号之一。

值得庆幸的是，评论部分也经常提供线索。

“如果有人阅读这些评论而不是仅仅查看个人的帖子，他们就会得到提醒，”克里斯蒂安说。

以下是发现 AI 图像的一些技巧：

• 查找丢失或更改的水印
• 检查光照和阴影 - AI 可能会将明亮的天空与昏暗的景观错配
• 放大文本和数字 - 它们可能包含无意义的字母或单词
• 使用地理位置线索 - 将建筑物和风景与真实地图或街景进行比较
• 注意过度光滑或“有光泽”的表面
• 验证来源并查看哪个帐户正在共享图像
• 许多免费的 AI 视频时长不超过 20 秒。较长的剪辑可能会显示缝合剪辑之间的尴尬过渡。
• 如果在分享之前感觉有些不对劲，请放慢速度

克里斯蒂安说，人工智能生成的图像可以用来进一步加深刻板印象，并创造出不准确的人物形象，比如灾难后抢劫的虚假图像。

她说，这些图像可以深入人们的记忆，其影响远远超出“深度造假”本身。

需要更多监督吗？

这种事在世界各地都在发生。

如果人们不同意 Meta（Facebook 的母公司）的内容执行决定，监督委员会正在注意到这一点。监督委员会是一个外部机构，人们可以向该机构提出上诉。

3 月 10 日星期一，该组织发布了一条视频消息，呼吁对人工智能生成的描绘严重现实世界事件的图像进行更改。

在委员会引用的例子中，人工智能图像描绘了以色列与伊朗的冲突。

过去曾成功影响 Meta 政策的监督委员会要求该公司再次采取行动。

“Meta 需要创建一套新的、独立的规则，以确保用户能够可靠地识别人工智能生成的内容，”董事会表示。– 此外，它应该修改现行政策，以确保对人工智能生成的欺骗性输出做出及时、充分的反应。 –

克里斯蒂安说，人工智能图像需要监管。人们被愚弄了，只能靠自己来辨别真假。

她说，人工智能图像应该需要某种永久水印或某种类型的披露。

克里斯蒂安说，社交媒体是寻找早期信息的好地方，比如灾难现场的照片和视频。

但高质量图像和视频生成器的兴起可能会给镜头带来阴影。

“这确实让我们这个社会掀起了一场风暴，”她说。

随着人工智能变得更加先进，这种趋势并没有停止的迹象。

龙卷风发生几天后，上述基于人工智能的多产帐户继续发布世界各地天气事件的新人工智能照片，使用人工智能生成的图像标记为伊朗地震和密歇根州肯特县洪水。

该帐户分享了更多标记为“三河”的图像，显​​示了被摧毁的梅纳德，尽管它是人工智能想象的。

他们为什么这么做？

金钱是一种动力。

发布有关《三河》的账户拥有超过 100 万粉丝，并提供 1 美元订阅按钮。

尽管尚不清楚它能赚多少钱，但人工智能内容已经获得了数百万次浏览。

该帐户没有回应置评请求。

它的许多帖子似乎都是真实的，其中包括一张来自国家气象局的虚假照片。其他人在标题中提到“AI”。

米勒表示，这是对真相和受影响人民的尊重。他说，他认为应该对那些利用人工智能赚钱的人提起刑事指控。

“人们失去了生命，”米勒说。——我的意思是，他们已经失去了那里的一切。

“如果您失去了一切，您不会希望有人发布有关您或您家人的虚假信息。”

Meta 表示，它要求人们在发布带有数字创建或更改的逼真视频或逼真音频的有机内容时使用人工智能披露和标签工具。

该公司表示，如果用户不使用这些标签，Meta 可能会实施处罚。

该公司的网页称，它会为检测到由人工智能工具生成的内容添加“人工智能信息”标签，或者如果创建者表明它是人工智能制作的内容。

MLive 发现多个帖子包含 AI 生成的内容，但未添加 AI 标签。

这意味着避免错误信息的唯一方法是亲自发现人工智能图像。

如果您不确定，请暂停。

“深吸一口气，仔细看看，”克里斯蒂安说。– 如果感觉不太正确、看起来不太正确，请不要分享。 –