英语轻松读发新版了,欢迎下载、更新

为什么人工智能在生成卡玛拉·哈里斯的图像方面如此糟糕 - 连线

2024-09-10 10:30:00 英文原文

上周,埃隆·马斯克在 X 上分享了一张卡玛拉·哈里斯 (Kamala Harris) 打扮成共产主义独裁者的照片,这显然是假的,因为哈里斯既不是共产主义者,据我们所知,也不是苏联角色扮演者。而且,正如许多观察家指出的那样,照片中的女性大概是由 Xs Grok 工具生成的,与副总统只有一闪而过的相似之处。

一位 X 用户写道,人工智能仍然无法准确描绘卡马拉·哈里斯。看起来他们正在发布一些随机的拉丁裔女性。

格罗克给老伊娃·朗格利亚穿上了一套时髦的衣服,然后就到此为止了,另一个人打趣道,并指出照片中的独裁者与绝望主妇明星的相似之处。

人工智能无法复制卡玛拉·哈里斯(Kamala Harris),第三位发帖者。令人难以置信的是,该算法对于美国人(具有南印度和牙买加血统)来说是多么失败。

哈里斯的许多人工智能图像也同样糟糕。与此同时,一条由人工智能生成的视频在推特上显示哈里斯和唐纳德·特朗普的浪漫关系,最终她抱着他们的爱子,看起来特朗普在 X 上有近 2800 万次观看。在整个蒙太奇过程中,哈里斯变成了不同的人,而明显更好的特朗普形象仍然相当一致。

当我们尝试使用 Grok 制作一张哈里斯和特朗普抛开分歧阅读《连线》杂志的照片时,结果反复准确地描述了前总统,但却错误地描述了副总统。哈里斯以不同的特征、发型和肤色出现。有几次,她看起来更像前第一夫人米歇尔·奥巴马。

Grok 与一些备受瞩目的人工智能图像生成器不同,它允许用户创建政治人物的伪造照片。今年早些时候,Midjourney 开始阻止其用户创建特朗普和总统乔·拜登的图像。(该禁令适用于哈里斯。)此举是在反击数字仇恨中心发布一份报告后采取的,该报告发现该工具可用于生成一系列带有政治色彩的图像。

同样,OpenAI 的 ChatGPT 和 Google 的 Gemini 拒绝在 WIRED 测试中生成哈里斯或特朗普的图像。与此同时,许多开源图像生成器将像 Grok 一样生成政客的图像。《连线》杂志发现了这样一个模型,即“稳定扩散”,它也生成了哈里斯的不太好的照片。

现代人工智能图像生成器使用所谓的扩散模型根据文本提示生成图像。这些模型输入了数千张标记图像,这些图像通常是从网络上抓取或从其他来源收集的。Freepik 是一家拥有各种人工智能工具(包括多个图像生成器)的公司,其首席执行官华金·昆卡·阿贝拉 (Joaquin Cuenca Abela) 告诉《连线》杂志,与特朗普相比,这些生成器在召唤哈里斯时遇到的困难在于,他们获得的标记良好的图片较少。/p>

尽管哈里斯是一位杰出人物,但他并没有像特朗普那样被广泛拍摄。《连线》杂志对照片供应商 Getty Images 的搜索证实了这一点;它返回了 63,295 张哈里斯的图像,而特朗普的图像则为 561,778 张。昆卡·阿贝拉 (Cuenca Abela) 表示,鉴于哈里斯最近才参加总统竞选,就人工智能图像制作者而言,她是一位新名人。他说,总是需要几个月的时间才能赶上。

哈里斯是一名具有牙买加和印度血统的黑人女性,也可能是一个因素。人工智能公司 Hugging Face 的全球政策主管艾琳·索莱曼 (Irene Solaiman) 表示,对深色肤色和女性特征的面部识别能力较差,可能会影响哈里斯图像的自动标记排序。麻省理工学院研究员 Joy Boulamwini 和现任分布式人工智能研究所创始人兼执行董事 Timnit Gebru 发表的 2018 年性别阴影研究首次强调了面部识别无法识别女性和深色皮肤面孔的问题。

人工智能对哈里斯的描绘不是特别好,可能还有另一个原因。Deepfake 检测专家、GetReal Labs(一家提供捕捉虚假媒体软件的初创公司)联合创始人 Hany Farid 表示,这些图像并不是为了逼真而创建的,而是为了推动叙事。

换句话说,那些分享人工智能生成的哈里斯图像的人可能往往更感兴趣的是制作具有模因价值的场景,而不是完善她的肖像的真实感。马斯克分享的共产独裁者形象和哈里斯抱着她的特朗普宝宝的视频都是为了嘲笑和诋毁民主党候选人,而不是散布虚假信息。

卡内基梅隆大学亨氏学院数字媒体和营销学教授阿里·莱特曼 (Ari Lightman) 表示,有些人甚至可能故意选择哈里斯的不良图像,以强调她是个骗子。莱特曼说,这是一个人工智能生成的通信时代。如果做得很粗糙,它的目的就是发送消息。

关于《为什么人工智能在生成卡玛拉·哈里斯的图像方面如此糟糕 - 连线》的评论


暂无评论

发表评论

摘要

当埃隆·马斯克上周在 X 上分享了一张卡玛拉·哈里斯打扮成共产主义独裁者的照片时,这显然是假的,因为哈里斯既不是共产主义者,也不是据我们所知的苏联角色扮演者。另一位网友打趣道,格罗克给老伊娃·朗格利亚穿上了一套时髦的衣服,然后就到此为止了,他指出这位独裁者与《绝望主妇》明星的照片很相似。哈里斯以不同的特征、发型和肤色出现。Freepik 是一家拥有各种人工智能工具(包括多个图像生成器)的公司,其首席执行官华金·昆卡·阿贝拉(Joaquin Cuenca Abela)告诉《连线》杂志,与特朗普相比,这些生成器在召唤哈里斯时遇到的困难在于,他们获得的标记良好的图片较少。哈里斯是一名具有牙买加和印度血统的黑人女性,也可能是一个因素。