2025 年，网上发现的人工智能生成的儿童性虐待材料数量激增
作者：Dan Milmo
去年，网上发现的人工智能生成的儿童性虐待材料数量增加了 14%，其中大多数视频据安全监管机构称，显示了最极端的内容类型。
的互联网Watch Foundation 表示，它识别出 8,029 个由人工智能制作的真实儿童性虐待内容的图像和视频 (CSAM) 到 2025 年。它补充说，视频数量增加了 260 倍以上。
IWF 表示，3,443 个视频中的 65% 被归类为 A 类，这是英国法律规定的最严厉的材料。该监管机构表示，非人工智能视频的相应数字为 43%，这表明该技术被用来制作更多暴力内容。
IWF 首席执行官克里·史密斯 (Kerry Smith) 表示：“技术进步绝不能以牺牲儿童的安全和福祉为代价。”虽然人工智能可以提供很多积极的意义，但想到它的力量可以用来摧毁孩子的生活，就令人震惊。这种材料很危险。”
一位 IWF 分析师表示，暗网上恋童癖者之间的对话表明，CSAM 用户对这项技术的创新感到“高兴”。讨论的重点是人工智能系统日益真实的输出，以及随着它们的改进，它们向视频添加音频或成功操纵罪犯认识的真实儿童图像的能力。
总部位于英国的 IWF 设有热线电话，并负责在全球范围内监控儿童性虐待内容。据称，犯罪者还在讨论使用“代理”系统的可能性，该系统可以自主执行任务。
科技公司和儿童保护机构英国有权测试人工智能工具是否可以产生 CSAM部长们去年表示，这一举措是为了在虐待行为发生之前制止它。
根据这一变化，政府将允许指定的人工智能公司和儿童安全组织检查生成人工智能模型——ChatGPT等聊天机器人和谷歌Veo 3等图像生成器的基础技术——并确保它们有保障措施来防止它们创造这样的材料。
“儿童、受害者和幸存者不能让我们自满，”史密斯说。– 新技术必须符合最高标准。在某些情况下，生命危在旦夕。”
随着系统熟练程度和可用性的提高，尤其是视频的增加，IWF 验证的 CSAM 数量急剧增加。
IWF 还发布了民意调查，显示十分之八的英国成年人希望英国政府出台立法，确保人工智能系统的开发以安全为优先，并且“不会在未来造成伤害”。去年，政府宣布禁止拥有、创建或传播人工智能模型旨在生成儿童性虐待材料。