人工智能生成的儿童性虐待图像正在网络上泛滥。
多年来，生成式人工智能已被用来创造各种令人眼花缭乱的现实世界和人物的绘画和令人惊叹的动画，无论是真实的还是想象的。这种力量带来了巨大的阴暗面，许多专家现在才开始应对：人工智能被用来制作未经同意的、露骨的儿童图像和视频。不仅仅是在少数情况下，全国数以百万计的孩子可能在某种程度上受到了这项技术的出现的影响，他们要么直接成为受害者，要么意识到其他学生也受到了伤害。
今天上午，倡导数字权利和隐私的非营利组织民主与技术中心发布了一份报告，内容涉及美国学校中未经同意的亲密图像（NCII）的普遍存在，令人震惊。该中心的民意调查发现，在过去的学年中，15% 的高中生表示听说过一张深度伪造或人工智能生成的图像，该图像以露骨或亲密的方式描绘了与他们学校有联系的人。该报告的合著者、CDT 公民技术公平主管伊丽莎白·莱尔德 (Elizabeth Laird) 告诉我，生成式人工智能工具增加了学生成为受害者和犯罪者的机会。换句话说，无论生成式人工智能在简化死记硬背的任务、发现新药、取代人类艺术、吸引数千亿美元的投资方面有什么好处，但这项技术都让侵犯儿童变得更加容易。