作者:Rimal FARRUKH / AFP PakistanOctober 21, 2024 at 5:18 PM·3 min read1Link Copied
“不知羞耻是没有底线的。这是对俾路支文化的侮辱,”用乌尔都语配在一张人工智能生成的图片上的字幕写道:片段于2024年9月29日在X发布。
这段简短的视频似乎显示了俾路支省省级议会议员梅娜·马吉德身穿绿色沙尔瓦卡米塞(一种传统服装)与该省首席部长萨尔法扎·布格蒂拥抱。两人都属于巴基斯坦人民党。
这样的公开示爱在文化上被认为是不合适的。保守的、穆斯林占多数的巴基斯坦,尤其是那些未婚的人。
此类虚假信息的传播可能会严重损害一个女人的名誉和事业;在南亚某些较为保守的地区,这甚至可能危及她们的安全。
相同的片段被分享到 TikTok以及YouTube包含辱骂马吉德的语言的评论帖子。
分析该视频片段显示,它来自不再可访问的TikTok账号"@gullzadibaloch1212",并且在右上角有一个写着“Vidu”的水印。
根据中国官方媒体的一篇文章新华通讯社,Vidu是由中国人工智能公司声网科技和清华大学开发的“大型视频生成模型”之一。已存档链接).
一个 instructional video在Vidu网站上展示的是它如何能够使用参考图像和文本提示创建四秒的短片片段。存档链接).
以下是Vidu网站上教学视频的截图,展示了如何使用参考图像和文本提示生成一个片段,并且AFP高亮了最终片段上的Vidu水印。
在Google上使用在线分享的片段中的关键帧进行反向图像搜索导致了照片玛吉德于2023年12月1日在她的官方X账号上分享了(如果有实际内容需要翻译,则在此处替换)存档链接).
照片显示她穿着同样的衣服在同一个地点,但她站在的是阿西夫·阿里·扎尔达里旁边。当选总统的任期为第二项2024年3月的时间(存档链接).
以下是虚假分享的片段(左)与Majeed的X照片(右)的截图对比:
该AI生成的视频此前已被巴基斯坦的事实核查组织揭穿Soch事实核查 (存档链接).
伯克利加州大学专门从事数字图像分析的汉尼·法里德教授也通过电子邮件告诉法新社,该视频是由人工智能生成的。
他说:“当Meena Majeed向左移动时,最明显的伪影就会出现,你可以看到她身后的那个人被严重扭曲。”
这是因为生成式AI难以从无到有创建内容,所以在揭示原图的部分时,常常可以看见人工痕迹。
女性政客经常成为网上虚假信息的目标,此前法新社曾揭穿过一个类似的深度伪造视频,该视频针对的是巴基斯坦前第一夫人布什拉· Bibi。这里.