宾夕法尼亚州兰开斯特市在2023年12月被启示录中震撼分享了数百个裸图像社区中的女孩在社交聊天平台上的私人聊天中不及格。目击者说，这些照片很容易被误认为是真实的，但它们是假的。这些男孩使用人工智能工具将女孩面孔的真实照片叠加到性明确的图像上。
借助社交媒体平台上可用的真实照片，AI工具在整个网络上都变得越来越易于访问，因此在全国范围内播放了类似的事件加利福尼亚到德克萨斯州和威斯康星州。总部位于华盛顿特区的非营利组织民主与技术中心最近进行的一项调查发现，有15％的学生和11％的教师知道至少一个深冰这描绘了与学校相关的人，以性别或亲密的方式。
最高法院隐含地得出结论，基于真实孩子的图像的计算机生成的色情图像是非法的。使用生成的AI技术使未成年人的深层色情图像几乎肯定属于该裁决的范围。作为法律学者谁研究了宪法和新兴技术的交集，我看到了对现状的挑战：AI生成的图像，这些图像完全是假的，但与真实照片没有区别。
治安儿童性虐待材料
尽管互联网的体系结构一直使得很难控制在线共享的内容，但全球大多数监管机构都应该对其进行审查。儿童色情制品在该清单的顶部。
几十年来，执法机构一直与大型科技公司合作，从网络中识别和删除这种材料，并起诉创建或流传的人。但是生成人工智能和易于访问的工具就像宾夕法尼亚州案中使用的案例一样挑战此类努力。
在法律领域，儿童色情通常称为儿童性虐待材料或CSAM，因为该术语更好地反映图像和视频中描绘的虐待以及所涉及的孩子的创伤。1982年，最高法院裁定，在《第一修正案》中没有保护儿童色情制品，因为维护未成年人的身体和心理健康是一个令人信服的政府利益，证明禁止儿童性虐待材料的法律是合理的。
该案，纽约诉费伯案有效地允许联邦政府和所有50个州将传统儿童性虐待材料定为犯罪。但是随后的案件Ashcroft诉自由言论联盟从2002年开始，可能会使对AI生成的儿童性虐待材料定为犯罪的努力变得复杂。在这种情况下，法院违反了一项禁止计算机生成的儿童色情制品的法律，有效地使其合法。
法院发现，当这种淫秽的材料是计算机产生时，政府对保护儿童的身体和心理健康的兴趣并不意味着。法院写道：“虚拟儿童色情与对儿童的性虐待无关。”
国家将AI生成的CSAM定为犯罪
根据儿童倡导组织足够的虐待，37个州有将AI生成或AI修饰的CSAM定为犯罪，要么修改现有的儿童性虐待材料法或制定新的法律。在这37个州中，超过一半颁布了新法律，或者在过去一年内修改了现有法律。
例如，加利福尼亚制定了1831年大会法案2024年9月29日，修改了其刑法，以禁止任何数字化更改或人工创造的事物的创建，出售，拥有和分发，以描绘18岁以下的人从事或模拟性行为的人。
尽管其中一些州法律针对的是使用真实人的照片来产生这些深层假货，但其他法律则走得更远，将儿童性虐待材料定义为任何似乎是未来18岁以下的人的形象，根据足够的虐待。这样的法律包含没有描绘真正未成年人的图像的法律可能与最高法院的Ashcroft诉言论自由联盟裁决相反。
真实与假货，并说明差异
Ashcroft决定AI生成的儿童性虐待材料的新兴问题的最重要部分也许是最高法院没有罢工的法规的一部分。法律的规定禁止 - 创建虚拟（儿童性虐待材料）（称为计算机变形）的更常见和较低的技术手段，其中涉及拍摄真正的未成年人的照片并将其变形为性明确的描述。
法院的裁决指出，这些数字化改变了未成年人的性别明确描述，暗示了真实儿童的利益，并在这种意义上更接近Ferber中的图像。纽约诉费伯，最高法院维持了一项纽约刑事法规，该法规禁止人们有意促进16岁以下儿童的性表演。
法院在Ferber和Ashcroft中的判决可以用来争辩说，鉴于对真正的未成年人造成的心理伤害，任何AI生成的实际未成年人的性明确形象不应受到保护。但是该论点尚未在法庭上提出。法院在阿什克罗夫特（Ashcroft）的裁决可能允许AI生成的假未成年人的性明确图像。
但是在阿什克罗夫特（Ashcroft）表示同意的法官克拉伦斯·托马斯（Clarence Thomas）法官警告说，如果技术进步挫败了非法言语的起诉，那么政府可能会对禁止或以其他方式规定某些狭窄类别的兴趣令人信服合法的演讲是为了对通过虐待真正的孩子进行的色情制品有效执行法律。
与最近的AI的重大进展，执法人员可能很难区分真实和假子女的形象。我们有可能需要禁止计算机生成的儿童性虐待材料，以便联邦和州政府有效地执行旨在保护真实儿童的法律 - 托马斯警告说20年前。
如果是这样，那么轻松地使用生成AI工具可能会迫使法院解决这个问题。