美国学校“破坏性”人工智能色情丑闻给受害者留下伤痕

华盛顿 - 一位美国母亲的声音中充满了愤怒，她担心她十几岁的女儿的未来，她只是另一起震惊美国学校的人工智能色情丑闻的目标的数十名女孩之一。

去年席卷宾夕法尼亚州兰开斯特乡村走读学校的争议凸显了学生和教育工作者的新常态，他们努力跟上廉价、容易获得的人工智能工具的繁荣，这些工具促进了超现实的深度伪造。

一位不愿透露姓名的家长告诉法新社，去年夏天，她 14 岁的女儿发现她的同龄人中流传着人工智能生成的裸照后，“歇斯底里地哭着”来找她。

“这对她的长期影响是什么？”这位母亲说，她担心当她的女儿申请大学、开始约会或进入就业市场时，这些被操纵的图像可能会重新出现。

“你看不出它们是假的。”

上个月，当局对两名十几岁的男孩提出了多项指控，包括性虐待儿童和持有儿童色情制品，当局称他们创作了这些图像。

调查人员在即时通讯应用程序 Discord 上发现了 347 张图片和视频，影响了总共 60 名受害者，其中大多数是私立学校的女学生。

除一名外，其他人均不满 18 岁。

“令人不安”

这起丑闻是美国各州（从加利福尼亚州到新泽西州）学校发生的一系列类似事件中的最新一起，联邦调查局去年警告称，此类儿童性虐待材料（包括真实的人工智能生成图像）是非法的。

非营利性民主与技术中心 (CDT) 首席执行官亚历山德拉·里夫·吉文斯 (Alexandra Reeve Gives) 表示：“生成式人工智能的兴起与学校中一个长期存在的问题发生了冲突：共享未经同意的亲密图像的行为。”

“在数字时代，孩子们迫切需要支持来应对技术骚扰。”

CDT 去年 9 月对公立学校进行的一项调查发现，15% 的学生和 11% 的教师至少知道一个“以露骨或亲密的方式描绘与学校相关的个人的深度伪造品”。

这种未经同意的图像可能会导致骚扰、欺凌或勒索，有时会造成毁灭性的心理健康后果。

接受法新社采访的母亲表示，她知道有些受害者逃学、进食困难或需要医疗护理和咨询来应对痛苦。

她说，她和其他家长带进侦探办公室仔细检查这些深度假货，惊讶地发现打印出来的图像堆放了“一英尺半”高。

“我必须看我女儿的照片，”她说。

“如果有人看，他们会认为这是真的，所以这更具破坏性。”

'开发'

被指控的肇事者的名字尚未公布，他们被指控从社交媒体上窃取图片，使用人工智能应用程序对其进行修改，然后在 Discord 上分享。

这位母亲告诉法新社，她女儿的假照片主要是根据学校 Instagram 页面上的公开照片以及 FaceTime 通话的屏幕截图进行修改的。

一个简单的在线搜索就会出现数十个应用程序和网站，允许用户创建“深度裸体”，以数字方式脱掉衣服，或将选定的面孔叠加到色情图像上。

Blackbird.AI 情报总监罗伯塔·杜菲尔德 (Roberta Duffield) 告诉法新社：“虽然结果可能不如专业表演那么真实或引人注目，但这些服务意味着不需要任何技术技能即可制作深度伪造内容。”

美国只有少数几个州通过了处理色情深度造假的法律，其中包括去年年底的宾夕法尼亚州。

受害者家长提起诉讼，指控政府在 2023 年底首次收到该活动警报时未能报告该活动，随后，宾夕法尼亚州学校的最高领导层下台。

研究人员表示，学校没有能力应对人工智能技术快速发展带来的威胁，部分原因是法律仍在追赶。

“未成年女孩越来越多地受到朋友、同事、学校同学的深度伪造剥削，”达菲尔德说。

“教育当局必须紧急制定有关人工智能和数字技术使用的明确、全面的政策。”