到目前为止，只有一小部分马萨诸塞州学校 各学区制定了解决深度造假问题的政策，或对制造或传播深度造假的学生实施惩罚。

去年 11 月，14 岁的格蕾丝·曼奇尼 (Grace Mancini) 在去欣厄姆中学 (Hingham Middle School) 上英语课的路上，一群女孩警告她，一名八年级男孩伪造了人工智能生成的她的裸照。

创建该图像的青少年与至少两个朋友分享了该图像。根据学校进行并与《环球报》分享的一项调查，其中一名学生通过 Snapchat 电话看到了这张照片，并拍了一张截图，并承认在学校走廊上向其他同学展示了这张照片。

格蕾丝·曼奇尼 (Grace Mancini) 告诉了她的妈妈梅根·曼奇尼 (Megan Mancini)，她说她向警方报告了这一事件，并 向学校提出性骚扰（或第 9 条）投诉。梅根·曼奇尼说，这名男孩在给格蕾丝·曼奇尼的短信中承认自己创作了这张照片，并向学校官员承认了这一点。

尽管如此，男孩并没有受到学区的正式处罚。调查得出的结论是，他没有违反学校的政策，因为“没有足够的证据”表明这些图像是在“学校实际控制的地点、事件或情况下与其他学生分享的”。

由于这名男孩没有违反性骚扰政策，“学校不能对他采取纪律处分”，学生服务临时主任芭芭拉·卡塔尔多(Barbara Cataldo)在给梅根·曼奇尼(Megan Mancini)的一封电子邮件中写道。

——我不明白，因为人们会因为在树林里喝酒而惹上麻烦。他们会因此被停职或者不能参加体育运动，”梅根·曼奇尼说。“这件事发生在上课时间，在学校走廊里，但学校表示这不属于他们的管辖范围。”

研究深度造假传播的专家表示，学校的反应太普遍了。 学区经常未能将人工智能生成的露骨色情图像视为儿童色情内容， 他们说。马萨诸塞州是最后几个州之一 使分享未经同意的深度伪造图像成为非法行为。

“除非家长采取战争方式，否则这些事情真的不会引起注意，或者[学校官员]说这里无能为力，”Riana Pfefferkorn 说， 政策研究员斯坦福以人为中心的人工智能研究所研究露骨性行为的深度假货。

一些家长、律师和研究人员正在敦促学校召开集会，向学校做出解释。 让学生了解分享或创建深度伪造品的法律、纪律和社会影响。

去年秋天，新罕布什尔州戈夫斯敦山景中学的一群八年级男孩使用人工智能制作并传播了三名 13 岁和 14 岁女孩的假裸照。

其中一名女孩的母亲克里斯塔尔·拉布兰奇 (Krystal Labranche) 表达了沮丧之情 学校没有谈论 向学生介绍 Deepfakes。相反，拉布兰奇在 Facebook 上写道，他们保持“安静”并假装“这件事没有发生”。

帖子发布三天后，戈夫斯敦警司布莱恩·巴尔克（Brian Balke）向家长发送了一封电子邮件，警告社交媒体上流传的关于山景城“最近发生的一起事件”的信息可能不完整或不完全准确。巴尔克拒绝对本文发表评论。

对于拉布兰奇的女儿来说，这一事件让她感到十分虚弱。

– 我的女儿是一位交际花。她热爱学校，热爱学校的方方面面。”拉布兰奇在接受采访时说道。“但现在至少每周一次，她不想去。”

在遭到抵制后，学校改变了政策，明确禁止“创建、传播和展示”深度假货，并概述了违反规定的纪律处分。

在与学校有关的某人的深度造假事件发生后，学校采取处理非共识图像的政策和程序的可能性是原来的两倍 共享，根据2024年报告由民主与技术中心。

在马萨诸塞州，人工智能产生的性骚扰被提到 113 项学区政策中的 9 项发布在网站上马萨诸塞州学校委员会协会。其中只有五项政策提到将对使用人工智能制造他人有害形象的学生采取纪律处分。

在梅德福，14 岁的克洛伊·多塞勒斯 (Chloe Dorcellus) 表示，去年春天，她的麦格林中学同学成为深度造假的受害者，当时一名八年级男孩为她制作了一张露骨的色情图片。多塞勒斯说，学校官员没有与学生群体谈论所发生的事情，而这种情况经常发生。

梅德福公立学校的发言人告诉《环球报》，他们并不知道这起事件。几个月后，梅德福公立学校采用人工智能政策也就是说，“通过人工智能平台进行的辱骂、有害或不尊重的行为是不可接受的。”

位于 Hingham 学区制定了人工智能政策，但只提到了抄袭，并没有提到性骚扰。

据一份报告称，在全国范围内，不到四分之一的教师表示，他们的学校制定了如何处理深度伪造图像的政策。最近的报告由民主与技术中心。

TNG Consulting 是一家帮助学校遵守民权法的公司，该公司表示，客户通常只询问如何处理 深度伪造之后 事件有 发生了，根据 Mikiba Morehead，高级监督顾问。

生成深度伪造品的网站正在迅速增长。据介绍，现在有数百个可用的程序，即使移动应用商店禁止这些程序，青少年也可以更轻松地在网上找到它们。 社交网络分析公司 Graphika。用户只需上传某人的脸部照片即可生成图像。

Graphika 情报副总裁泰勒·威廉姆斯 (Tyler Williams) 表示，当一个网站被关闭时，另一个网站就会重新出现。“这有点像玩打地鼠的游戏，”他说。

据 Graphika 称，仅一家裸体公司一月份的网站访问量就超过 500 万。

“这现在正在影响数百万儿童，”民主与技术中心公民技术公平主任伊丽莎白·莱尔德说。

该中心的研究发现，在上个学年，15% 的学生表示看到了与他们学校有关的某人的露骨色情深度假货。

全国各地的学校都没有把重点放在“从一开始就防止这种情况发生”，也没有“为受害者提供更多支持，”莱尔德说。

在 Hingham 中学，梅根·曼奇尼 (Megan Mancini) 表示，学校提出让她女儿见学校辅导员，并邀请地区检察官进来，就不当使用人工智能的问题对学生进行培训。

这位母亲表示很沮丧，因为她说： – 他们从未谈论过制造深度赝品的后果。 – 该学区通过电子邮件发送 她说，孩子们在浴室的墙上留下了攻击性的评论，但在深度造假之后却什么也没发出来，这让家长们感到不安。

“我感觉不到支持，”格蕾丝·曼奇尼说。——他们的反应让人觉得这无关紧要。这确实很重要。 –

该学区有一项政策，禁止使用人工智能作弊，但“我们的政策没有专门针对深度造假做出任何改变，”学校委员会秘书艾莉森·安德森在一封电子邮件中告诉曼奇尼。

一项研究斯坦福大学去年关于深度伪造的研究发现，“大多数学校目前没有解决学生裸露应用程序的风险。”

在这份报告中，研究员 Riana Pfefferkorn 研究了全国四个公立学区发生的深度造假事件，并对教育工作者、执法部门和州官员进行了超过 52 次采访。

在《环球报》审查的 113 个马萨诸塞州学区政策中，黑弗里尔公立学校是唯一一所明确禁止人工智能生成的深度造假的学校。

黑弗里尔制定了规则 警长玛格丽特·马洛塔 (Margret Marotta) 表示，一年前，为了在事故实际发生之前“掌握最新技术”。

根据学生手册，该政策规定，任何不当使用该技术的行为都将受到纪律处分。但它没有指定 处罚或 包括提供具体的计划 黑弗里尔公立学校 IT 主管 Doug Russell 表示，他们正在为学生提供有关人工智能和性骚扰的培训。

在韦尔斯利公立学校，学生 学习 必修的社交和情感学习课程中的人工智能和性骚扰，其中 儿童 韦尔斯利警监大卫·卢西尔说，要努力控制他们的情绪。

有的学校领导说 他们需要更多的指导。

当国家教育官员制定指导方针去年八月，为了在课堂上负责任地使用人工智能，它提供了 没有具体的技术指导 根据中小学教育部的说法，性骚扰。

为学区制定示范政策的马萨诸塞州学校委员会协会尚未就如何处理这一问题提出建议。

专家表示，没有时间可以浪费了。波士顿律师 Naomi Shatz 表示，过去几年她已经处理了几起涉及学生的人工智能相关深度造假案件。

“教育是解决这个问题的最佳途径，”沙茨说。“因为您想要预防这些情况，而不是在它们发生时做出反应。”

该报道早期版本的标题包含对卷入事件的学生的错误描述。

玛丽安娜·西梅斯 (Mariana Simáes) 的联系方式为：mariana.simoes@globe.com。在 X 上关注她@MariRebuaSimoes。