人工智能生成的儿童性虐待图像正在传播。执法部门正在加紧阻止他们
作者：ALANNA DURKIN RICHERUpdated October 26, 2024 at 7:46 AM·7 min read32Link Copied
司法部儿童剥削和淫秽科负责人史蒂文·格罗基 (Steven Grocki) 在接受《The》采访时表示：“我们必须尽早且经常地发出信号，表明这是一种犯罪行为，一旦有证据支持，我们就会对其进行调查和起诉。”
美联社。司法部于 5 月对威斯康星州一名软件工程师提出指控，该工程师被指控使用 AI 工具 Stable Diffusion 制作儿童露骨性行为的逼真图像，并在他将一些图像发送给一名 15 岁男孩后被捕。当局称，这是在 Instagram 上直接发布的消息。这不会是一个我们忽视的低优先级，因为没有真正的孩子参与其中。美联社对所有内容全权负责。
华盛顿（美联社）——一名儿童精神科医生修改了他在 Facebook 上看到的一张开学第一天的照片，让一群女孩裸体。
一名美国陆军士兵被指控制作描绘他所知道的遭受性虐待的儿童的图像。
一名软件工程师，负责生成超现实的儿童色情图像。
美国各地执法机构正在严厉打击
儿童性虐待图像的传播令人不安
通过人工智能技术创建——从真实儿童的经过处理的照片到计算机生成的儿童的图形描述。
司法部官员表示，他们正在积极追捕利用人工智能工具的罪犯，同时各州正在竞赛确保制作“深度造假”和其他有害儿童图像的人可以根据法律受到起诉。
“我们必须尽早且经常地发出信号，表明这是一种犯罪行为，当证据支持时，我们将对其进行调查和起诉，”司法部儿童剥削和淫秽科负责人史蒂文·格罗基（Steven Grocki）说。
在接受美联社采访时。
——如果你坐在那里不这么想，那你从根本上就错了。
有人追究你的责任只是时间问题。”
司法部表示，现有的联邦法律明确适用于此类内容，并且最近提起了据信是第一起涉及纯粹人工智能生成图像的联邦案件，这意味着所描绘的儿童不是真实的，而是虚拟的。在另一起案件中，联邦当局于 8 月逮捕了一名驻阿拉斯加的美国士兵，指控他通过人工智能聊天机器人播放他所认识的真实儿童的无辜照片，使这些图像变得露骨。努力追赶技术此次起诉发生之际，儿童权益倡导者正在紧急努力遏制技术的滥用，以防止大量令人不安的图像出现，官员们担心这些图像可能会让救援真正的受害者变得更加困难。
执法官员担心调查人员会浪费时间和资源来试图识别和追查实际上并不存在的受剥削儿童。与此同时，立法者正在通过一系列立法，以确保当地检察官能够根据州法律对人工智能生成的“深度造假”和其他儿童露骨色情图像提出指控。根据国家失踪和受虐儿童中心的审查，今年已有十多个州的州长签署了法律，打击以数字方式创建或更改的儿童性虐待图像。
“作为执法部门，我们正在追赶一项技术，坦率地说，这项技术的发展速度比我们快得多，”加利福尼亚州文图拉县地方检察官埃里克·纳萨伦科 (Erik Nasarenko) 说。
纳萨连科推动立法
上个月签署
州长加文·纽瑟姆 (Gavin Newsom) 明确表示，根据加州法律，人工智能生成的儿童性虐待材料是非法的。
纳萨伦科表示，他的办公室无法起诉去年 12 月至 9 月中旬期间涉及人工智能生成内容的八起案件，因为加州法律要求检察官证明这些图像描绘的是真实的儿童。
执法官员表示，人工智能生成的儿童性虐待图像可用于诱骗儿童。
即使孩子们没有受到身体虐待，当他们的形象变得露骨时，他们也会受到深刻的影响。
——我感觉自己的一部分被夺走了。尽管我没有受到身体侵犯，”17 岁的凯琳·海曼 (Kaylin Hayman) 说道，她曾出演迪士尼频道节目《Just Roll with It》，并在成为“Just Roll with It”的受害者后帮助推动了加州法案“深度伪造”图像。
海曼去年在联邦审判中作证，该男子将她的脸和其他儿童演员的脸以数字方式叠加到进行性行为的身体上。
他于 5 月被判处 14 年以上监禁。
专家表示，用户可以在计算机上下载的开源人工智能模型深受犯罪者的青睐，他们可以进一步训练或修改这些工具，以制作出对儿童的明确描述。
官员们表示，滥用者在暗网社区中交流如何操纵人工智能工具来创建此类内容的技巧。
去年的一份报告
斯坦福互联网天文台发现，Stable Diffusion 等领先 AI 图像制作工具的来源研究数据集包含儿童露骨色情图像的链接，导致某些工具能够轻松生成有害图像。该数据集已被删除，研究人员后来说
关于《人工智能生成的儿童性虐待图像正在传播。执法部门正在加紧阻止他们》的评论
暂无评论