巴基斯坦俾路支省的一名女政客成为了一段由人工智能生成的视频的目标

2024-10-21 08:18:20 英文原文

作者:Rimal FARRUKH / AFP PakistanOctober 21, 2024 at 5:18 PM·3 min read1Link Copied

在社会保守的巴基斯坦,一段声称展示的由人工智能生成的视频片段女政客拥抱一名省级男官员首席部长的照片已被分享在社交媒体帖子中。该视频使用了政客米娜·马吉德的一张照片与现任总统的影像制作而成。阿西夫·阿里·扎尔达里那在他当选该职位之前就已经存在。

“不知羞耻是没有底线的。这是对俾路支文化的侮辱,”用乌尔都语配在一张人工智能生成的图片上的字幕写道:片段于2024年9月29日在X发布。

这段简短的视频似乎显示了俾路支省省级议会议员梅娜·马吉德身穿绿色沙尔瓦卡米塞(一种传统服装)与该省首席部长萨尔法扎·布格蒂拥抱。两人都属于巴基斯坦人民党。

这样的公开示爱在文化上被认为是不合适的。保守的、穆斯林占多数的巴基斯坦,尤其是那些未婚的人。

此类虚假信息的传播可能会严重损害一个女人的名誉和事业;在南亚某些较为保守的地区,这甚至可能危及她们的安全。

<span>Screenshot of the false X post, captured on October 16, 2024</span>

2024年10月16日捕获的虚假X帖子截图

相同的片段被分享到 TikTok以及YouTube包含辱骂马吉德的语言的评论帖子。

分析该视频片段显示,它来自不再可访问的TikTok账号"@gullzadibaloch1212",并且在右上角有一个写着“Vidu”的水印。

根据中国官方媒体的一篇文章新华通讯社,Vidu是由中国人工智能公司声网科技和清华大学开发的“大型视频生成模型”之一。已存档链接).

一个 instructional video在Vidu网站上展示的是它如何能够使用参考图像和文本提示创建四秒的短片片段。存档链接).

以下是Vidu网站上教学视频的截图,展示了如何使用参考图像和文本提示生成一个片段,并且AFP高亮了最终片段上的Vidu水印。

<span>Screenshot of an instructional video on the Vidu website showing how a clip can be generated using a reference image and text prompts</span>

Vidu网站上一个教学视频的截图,展示了如何使用参考图像和文本提示生成一个片段

在Google上使用在线分享的片段中的关键帧进行反向图像搜索导致了照片玛吉德于2023年12月1日在她的官方X账号上分享了(如果有实际内容需要翻译,则在此处替换)存档链接).

照片显示她穿着同样的衣服在同一个地点,但她站在的是阿西夫·阿里·扎尔达里旁边。当选总统的任期为第二项2024年3月的时间(存档链接).

以下是虚假分享的片段(左)与Majeed的X照片(右)的截图对比:

<span>Screenshot comparison between the falsely shared clip (left) and Majeed's photo from X (right)</span>

假分享片段(左)与Majeed的X照片(右)的截图对比

该AI生成的视频此前已被巴基斯坦的事实核查组织揭穿Soch事实核查 (存档链接).

伯克利加州大学专门从事数字图像分析的汉尼·法里德教授也通过电子邮件告诉法新社,该视频是由人工智能生成的。

他说:“当Meena Majeed向左移动时,最明显的伪影就会出现,你可以看到她身后的那个人被严重扭曲。”

这是因为生成式AI难以从无到有创建内容,所以在揭示原图的部分时,常常可以看见人工痕迹。

女性政客经常成为网上虚假信息的目标,此前法新社曾揭穿过一个类似的深度伪造视频,该视频针对的是巴基斯坦前第一夫人布什拉· Bibi。这里.

关于《巴基斯坦俾路支省的一名女政客成为了一段由人工智能生成的视频的目标》的评论


暂无评论

发表评论

摘要

在社会保守的巴基斯坦,一段声称展示了一位女性政客与一位省级男性首席部长拥抱的AI生成视频已在社交媒体上流传。这两位都是巴基斯坦人民党成员。在这种保守且穆斯林占多数的社会中,未婚人士之间的这种公开亲昵行为被认为是不合适的。2024年10月16日捕获的虚假X帖子截图同一段视频也在TikTok和YouTube上被分享,并在评论中有人对马吉德使用了侮辱性的语言。“女性政客经常成为网络虚假信息的目标,此前AFP曾揭穿过一个针对巴基斯坦前第一夫人布什拉· Bibi 的类似深度伪造(deepfake)的谣言。