超过两打国会议员成为露骨深度造假的受害者——根据一项新的研究，受影响的人绝大多数是女性，该研究强调了这项技术中明显的性别差异以及女性不断变化的风险。参与政治和其他形式的公民参与。
美国阳光计划 (ASP)研究虚假信息和倡导促进民主政策的智囊团周三发布了调查结果，发现超过 35,000 次提及非自愿亲密图像 (NCII)，其中描绘了 26 名国会议员（其中 25 名女性和一名男性）最近在 Deepfake 网站上发现。当研究人员与受影响的国会议员分享他们的发现时，大部分图像很快被删除。
“我们需要正视这种新环境，以及互联网带来的如此多的危害，这些危害不成比例地针对女性和边缘化社区，”网络虚假信息和骚扰问题专家尼娜·扬科维奇 (Nina Jankowicz) 说道。创立了美国阳光计划，并且是该研究的作者。
非自愿的亲密图像，通俗地称为深度伪造色情（尽管倡导者更喜欢前者），可以通过生成式人工智能或通过将头像叠加到成人表演者的媒体上。目前限制其产生和传播的政策有限。
ASP 与 The 19th 独家分享了这一史无前例的发现。该组织通过开发自定义搜索引擎来收集部分数据，以便在 11 个知名的 Deepfake 网站上按名字和姓氏、缩写或昵称查找第 118 届国会议员。尽管年轻成员更有可能成为受害者，但政党背景和地理位置都不会影响成为虐待目标的可能性。最大的因素是性别，女性国会议员成为攻击目标的可能性是男性的 70 倍。
ASP 没有公布图像中描绘的立法者的姓名，以避免鼓励搜索。他们确实联系了每个受影响的人的办公室，向他们发出警报，并提供有关在线伤害和心理健康支持的资源。该研究的作者指出，事后立即，针对大多数成员的图像被完全或几乎完全从网站上删除——他们无法解释这一事实。研究人员指出，此类删除并不会阻止材料再次共享或上传。在某些涉及立法者的案例中，尽管内容大部分或全部被删除，但搜索结果页面仍保留在 Google 索引中。
– 删除可能是巧合。无论到底是什么原因导致删除这些内容，无论是“停止和制止”信件、侵犯版权的索赔，还是与托管 Deepfake 滥用的网站的其他联系，它都凸显了巨大的特权差距，根据研究。“人们，尤其是女性，缺乏向国会议员提供的资源，如果他们自己发起删除请求，那么人工智能生成的 NCII 的创建者和传播者不太可能做出如此快速的反应。”
根据该研究的初步结果，目前在国会任职的所有女性中有近 16%（即大约六分之一的国会女议员）是人工智能生成的未经同意的亲密图像的受害者。
扬科维奇已成为网上骚扰和威胁的目标表彰她在国内和国际上消除虚假信息的工作。她还公开表示自己是 Deepfake 滥用的受害者——她在 2023 年通过 Google Alert 发现了这一事实。
– 未经您的同意，您可能会出现在这些妥协的、亲密的场景中，而这些视频，即使您要说，对原始发布者提出版权主张，就像我的情况一样，它们会在互联网上传播，而无需您的同意。你的控制权，并且不会为那些放大或制作深度伪造色情内容的人带来某种后果，”她说。“对于任何在公众视野中、参与公共话语的人来说，这仍然是一个风险，特别是对于女性和有色人种女性来说。”
基于图像的性虐待可能会对受害者产生毁灭性的心理健康影响，受害者包括不参与政治的普通人——包括儿童。去年，有报道称，在以下州，高中女生成为基于图像的性虐待的目标加利福尼亚州,新泽西州和宾夕法尼亚州。尽管学校官员做出了不同程度的回应FBI也发布了新的警告分享此类未成年人图像是非法的。
深度造假对社会的全面影响仍然受到关注，但是研究已经表明，18 岁至 29 岁之间的女性中有 41% 进行自我审查以避免网络骚扰。
“如果我们有近一半的人因为害怕可能遭受的骚扰而保持沉默，那么这对民主和言论自由来说是一个巨大的威胁，”该公司的研究主任索菲·马多克斯说。面临风险的媒体中心在宾夕法尼亚大学。
没有联邦法律对生成和传播人工智能生成的未经同意的亲密图像的人规定刑事或民事处罚。近年来大约有十几个州颁布了法律，尽管大多数都包括民事处罚，而不是刑事处罚。
人工智能生成的非自愿亲密图像也开放对国家安全的威胁通过为勒索和地缘政治让步创造条件。这可能会对政策制定者产生连锁反应，无论他们是否是图像的直接目标。
“我的希望是，当成员们认识到这不仅影响着美国女性，而且也影响着她们自己时，他们就会采取行动，”扬科维奇说。– 这正在影响他们自己的同事。发生这种情况只是因为他们出现在公众视野中。”
基于图像的性虐待是竞选公职的女性面临的独特风险。一名共和党特工与《华盛顿邮报》分享了弗吉尼亚州民主党人和她丈夫未经同意的露骨性直播录像，苏珊娜·吉布森以微弱优势输掉了她的立法竞选。吉布森告诉《The 19》，在她去世后的几个月里，她收到了来自年轻女性不愿竞选公职因为担心亲密照片被用来骚扰他们。此后，吉布森成立了一家非营利组织，致力于打击基于图像的性虐待，并伴随政治行动委员会支持女性候选人反对侵犯私密隐私。
马多克斯研究了在公共场合发声的女性更容易遭受数字性暴力的原因。
“我们已经有很长一段时间了，‘女性应该被看到而不是被听到’的模式让我思考玛丽·比尔德的写作和研究认为女性气质与公共言论是对立的。因此，当女性公开讲话时，几乎就像是，“好吧。”是时候羞辱他们了。是时候脱掉它们了。是时候让他们回到屋子里了。是时候让她们感到羞耻并保持沉默了。”而这种沉默和羞辱的动机......我们必须了解这一点，才能了解这种伤害是如何表现在与国会女议员有关的。”
ASP 鼓励国会通过联邦立法。这2024 年《破坏露骨伪造图像和未经同意的编辑法案》，也称为“反抗法案”，将允许人们起诉任何创建、分享或接收此类图像的人。拆除法案将包括此类活动的刑事责任，并要求科技公司取缔深度伪造品。这两项法案均已在参议院获得两党支持，但必须解决对言论自由和危害定义的担忧，这是众议院科技政策的典型障碍。
“如果国会在没有通过至少其中一项法案的情况下让本届会议结束，那将是一种失职，”扬科维奇说，“这是人们实际感受到人工智能危害的方式之一现在是真正的美国人。这不是未来的伤害。这不是我们必须想象的事情。”
在国会没有采取行动的情况下，白宫与私营部门合作构思创造性的解决方案来遏制基于图像的性虐待。但批评者并不乐观鉴于其平台造成危害的历史，大型科技公司自我监管的能力。
“犯罪者很容易创建这些内容，而且发出的信号不仅仅是针对个别女性，”Jankowicz 说。——这是对世界各地的女性说：“如果你迈出这一步，如果你提高声音，这就是你可能不得不面对的后果。”
如果您是基于图像的性虐待的受害者，网络民权倡议维护法律资源清单。