去年，凯琳·海曼 (Kaylin Hayman) 走进匹兹堡法院出庭作证，控告一名她素未谋面的男子，该男子用她的脸与她拍色情照片。人工智能技术。
凯琳，16岁，是一名童星，曾出演过迪士尼2019 年至 2021 年播出的《Just Roll With It》。肇事者是一位名叫詹姆斯·斯梅尔科 (James Smelko) 的 57 岁男子，因为她的公众形象而针对她。她是大约 40 名受害者之一，他们都是儿童演员。在凯琳在审判中提交作为证据的一张照片中，斯梅尔科使用了她在网上发布的一张照片中的脸Instagram当她 12 岁时，在片场工作，并将其叠加到其他人的裸体上。
“我也曾失控地哭泣，因为我不明白为什么有些人如此邪恶，”她在接受《卫报》采访时说道。“我永远无法真正理解这一点。”
Kaylin 居住在加利福尼亚州文图拉，Smelko 居住在宾夕法尼亚州当他对她犯下这些罪行时。当她得知自己的案件因为是州际犯罪而只能接受审判时，她感到震惊。根据美国联邦法律，持有儿童性虐待图像被定为犯罪行为。但根据加利福尼亚州法律，这并不被视为非法。
凯琳将恐惧转化为行动。今年，她成为坚定的公共倡导者，支持加利福尼亚州的一项新法案 AB 1831，该法案扩大了反对儿童性虐待材料 (CSAM) 的现有法律的范围，将通过数字方式修改或通过人工智能生成的图像和视频包括在内。六月，她在萨克拉门托州议会大厦作证支持该法案。
“我谈到了我如何感到受到了侵犯，而且我感到非常震惊，因为这在加州还不是犯罪行为，”凯林说。“加利福尼亚州是演艺界的一个重要组成部分，有很多孩子没有受到这种犯罪的保护。”
9 月底，加州州长加文·纽瑟姆 (Gavin Newsom) 签署了该措施，使之成为法律。在该州，制作此类材料的儿童掠夺者可能面临监禁和最高 10 万美元的罚款。
虽然新法律重点关注儿童掠夺者手中的人工智能，但凯琳生活中的其他因素使她面临遇到斯梅尔科或像他这样的人的风险，据凯琳和她的父母马克和莎琳·海曼说。
Kaylin 第一次拥有 Instagram 帐户时只有 10 岁。社交网络需要用户必须年满 13 岁才能注册，由父母管理的帐户除外。斯梅尔科从她的个人资料中下载了照片，将她的脸与其他女孩和妇女的裸体结合起来，制作出色情图片。
——迪士尼安排了她Instagram专门开设帐户来宣传节目和他们自己，”马克说。“但是，当这些公司雇用这些孩子并让他们在那里发帖而不提供支持时，那就是更大的问题所在。”
他说，这种支持应包括处理骚扰和封锁帐户的培训以及咨询。凯琳同样将责任归咎于迪士尼。
迪士尼的公关团队让我和迪士尼的所有孩子都注册了一个应用程序。他们过去每周都会向我们发送剪辑，以便在 Instagram 上发布一集的内容，”Kaylin 说道。– 这一切始于我的工作和他们播下的种子。我希望他们承担一些责任，但这还没有发生。”
近年来，男性通过凯琳的 Instagram 和 TikTok 账户发送裸照来骚扰她。她已向两家社交媒体公司报告了这些不需要的消息，但她表示尚未采取任何行动。
“当然，她身边也有不少令人毛骨悚然的跟踪者，他们继续嘲笑她，”沙琳说。
马克认为，好莱坞演员工会 Sag-Aftra 也需要更加主动地教育其成员，让他们了解掠夺者利用人工智能和社交媒体来伤害公众人物的风险。父母双方都会定期查看凯琳的账户，她仍然使用并有权访问这些账户。
“我们确实读了很多评论并思考，“人们出了什么问题？”，但我不知道你是否可以摆脱它。进入这个行业而不出现在社交媒体上是很困难的，”Shalene 说。“我希望看到社交媒体公司进行一些负责任的审查和保护。”
在过去的几年里，Instagram 宣布了多项举措来加强对 16 岁以下用户的保护，包括家长控制和确定谁可以向他们发送消息的措施。9 月，该公司宣布将默认将 18 岁以下用户的所有帐户设为私有，此举受到儿童安全倡导者的赞扬。根据 Meta 的指导方针，同样的限制也适用于未成年人的经过验证的帐户。
– Instagram 上流传着许多不恰当的图片。我只是不明白为什么它们可以送给孩子们，”本月满 17 岁的 Kaylin 说道。– Instagram 应该是这样的：“不，这是不允许的”，然后将其删除。但这并没有发生，我也不明白。”
Meta 在一份声明中表示：“我们已经详细而有力的政策反对儿童裸体和剥削，包括真实的和图像以及使用 GenAI 创建的图像。 –
“至少自 2018 年以来，SAG-AFTRA 一直在就 Deepfake 技术的危险进行教育、讨价还价和立法，”SAG-AFTRA 总法律顾问杰弗里·贝内特 (Jeffrey Bennett) 表示。贝内特指出，该协会出版了一本有关深度造假的杂志，并参与了有关该主题的小组讨论并发表了文章。
迪士尼没有发表评论。
CSAM的在线流通量呈上升趋势。掠夺者过去曾使用过照片编辑软件，但人工智能模型的最新进展提供了轻松获取机会来批量生成更真实的儿童虐待图像。2023 年，国家失踪与受虐者中心孩子们(NCMEC)，一家总部位于美国的 CSAM 全球报告信息交换所，收到 3620 万份报告网络虐待儿童事件比上年增加 12%。其中大部分来自 Meta。
虽然收到的大多数报告都与性虐待儿童的真实照片和视频有关，但 NCMEC 还收到了 4,700 份由生成人工智能制作的儿童性剥削图像或视频的报告。组织机构一直很关键人工智能公司没有积极尝试阻止或检测 CSAM 的产生。
凯琳说，发现自己的脸被用来制造 CSAM 标志着她童年纯真的结束。她现在更加担心自己以及她认识的其他儿童和青少年的安全。
“如果我看到一个男人或某人用一种奇怪的眼神看着我，我总是会感到紧张，”她说。– 我总是在考虑某些情况下可能发生的最坏情况。我认为这是年轻女性必须习惯的事情。不幸的是，我不得不在 16 岁时被叫醒。我想这只是生活的一部分，”她补充道。
她说，一年前，在斯梅尔科的审判中作证意味着她重新控制了局势。在法庭上，当她专注于回答检察官的问题并面向陪审团的方向时，她快速地瞥了一眼因性剥削而受审的陌生人。
“当我瞥见他时，看起来他的生活真的很悲伤，而且他可能大部分时间都待在家里，因为他不是第一次重犯，”她说。在她作证后，斯梅尔科被判犯有两项持有儿童色情制品的罪名。
凯琳决心继续演戏，并希望有一天能出现在电影中。但现在她专注于完成高中四年级的学业，并致力于反对网络儿童剥削的宣传工作。这次磨难也激发了她新的抱负。她想去法学院，这样她有一天就能成为一名专门从事儿童权利的律师。
——我很幸运，我的情况并没有更糟。我知道很多人的情况都比我更糟，”她说。“我正在尝试为如此糟糕的事情添加一点好处。”