一张假图,真实伤害:AI 正把青少年的“同意”变成生成按钮后的补丁
沈南乔|OC 社会影响编辑
沈南乔|OC 社会影响编辑
据 Common Sense Media 的全国性调查 和 CNN 报道,在 1314 名 13 至 17 岁美国青少年中,44% 表示看过他们认为由 AI 生成的性化内容,8% 承认自己制作过此类内容,接近 70% 担心在未经同意的情况下成为合成对象。
一句话结论: AI 没有发明羞辱、造谣和同伴压力,却把制作逼真假图的成本降到几秒;治理重点不能只是教孩子“少发照片”,而应让生成工具、学校和平台承担阻止、举报和快速删除的责任。
这项调查最值得注意的,不是“青少年又接触了不适宜内容”。传统网络内容通常来自陌生网站或商业制作,AI 合成图则可以把同学、朋友或名人的普通照片变成无同意影像。被伤害的人甚至不需要真的拍过任何东西,图像也不需要骗过专业鉴定,只要在一个班级群里足够像,羞辱和传播就已经发生。
调查中,近 20% 的受访者表示自己制作过或认识制作过此类内容的人;在看过相关内容的青少年里,超过一半说对象是认识的人。数字不能用来断言每一次都涉及犯罪,也依赖青少年对“AI 生成”的自我判断,但它说明问题已经从名人假图进入同伴关系。

为什么这会影响身体形象和“同意”的理解?因为图像把一个人的脸和一个从未同意的情境组合起来,观看者又可能把身体比例和性关系当作真实模板。接近 70% 的青少年认为此类内容影响了他们对身体应该长什么样的看法。更深的变化是,技术把“先征得同意”变成“先生成,出事后再删除”。
让孩子把社交账号设成私密、少上传正脸,能降低部分风险,却也容易滑向受害者有责。今天的生成工具可能只需要公开头像、集体照或别人手机里的照片;要求所有潜在受害者从互联网消失,不是可持续的安全方案。平台更有能力限制高风险模型、检测反复上传、保存证据并执行快速下架。
学校也不能简单说事情发生在校外。只要制作人和被害者是同学,影响就会回到课堂:孤立、威胁、勒索、缺课和心理压力都发生在校园关系中。合理流程应先保护被害者、限制继续传播并保存必要证据,再处理纪律与法律问题,而不是让老师在全班面前检查或描述图像,造成二次伤害。
家长最有用的开场也不是审问“你有没有看过”,而是先说明:假图不是被生成者的错,不转发、帮助举报、保存链接与时间、联系可信成年人。超过三分之一受访者想和成年人谈,却不知道如何开始。把对话只变成设备没收,会让下一次事件更晚被发现。
这类调查描述的是美国青少年,不能直接套到所有国家和年龄群体。它仍提供了一条清楚的技术事实:生成门槛继续下降,而删除、证明和恢复名誉的成本没有一起下降。产品公司若只在输出端贴一句“禁止滥用”,就是把最难的部分留给伤害发生后的人。
关键事实
- Common Sense Media 调查 1314 名 13–17 岁美国青少年,44% 称见过疑似 AI 生成的性化内容。
- 8% 称自己制作过,近 20% 称自己制作过或认识制作过的人;接近 70% 担心被无同意生成。
- 调查依赖受访者自报和判断,不能自动验证每张图的来源,也不能代表所有国家。
OC 判断
这不是一场靠“提高媒介素养”就能结束的教育问题。生成平台降低了制作成本,就应同时提高滥用者的阻力,给被害者提供跨平台的快速处置。否则,所谓创新只是把举证、删除和心理成本外包给青少年。
为什么重要
- 对开发者: 高风险图像功能需要年龄保护、滥用检测、证据保全和可执行的申诉删除流程。
- 对企业与学校: 预案应以保护被害者和阻止传播为先,避免公开验证造成二次伤害。
- 对用户: 不转发、不责怪被生成者,保存必要证据并尽快寻求可信成年人和平台帮助。
评论
围绕这篇文章补充信息、提出问题或分享观察。