根据在线安全监管机构的说法，人工智能造成的儿童性虐待的图像正在变得更加现实。
这互联网手表基金会（IWF）说，AI的进步正在反映在恋童癖者创建和消费的非法内容中，他说：–2024年，AI生成的视频的质量呈指数呈指数改善，并且随着技术的开发，所有类型的AI图像都变得更加现实。
IWF在其年度报告中透露，它收到了245个关于AI生成的儿童性虐待图像的报告，该图像在2024年违反了英国法律的增长了380％的51％，该报告的报告为7,644张图像和少数视频，这反映了一个url可以包含非法材料的多个URL的事实。
这些图像中最大的比例是“材料类别”，这是最极端的儿童性虐待内容，包括穿透性活动或虐待狂。这占IWF看到的可操作的AI材料的39％。
政府2月宣布拥有，创建或分发旨在产生儿童性虐待材料的AI工具将成为非法的非法漏洞，使法律漏洞震惊了警察和在线安全运动者。任何人都拥有教会人们如何使用AI工具来制作虐待图像或帮助他们虐待儿童的手册也将成为非法。
IWF在英国运营着热线，但拥有全球性职位，他说，AI生成的图像越来越多地出现在开放式互联网上，而不仅仅是在黑暗的网络上 - 专用浏览器访问的互联网领域。它说最有说服力的AI生成的材料可能是无法区分的从真实的图像和视频中，即使是训练有素的IWF分析师。
《看门狗》的年度报告还宣布了2024年举办儿童性虐待图像的网页的创纪录水平。IWF表示，去年有291,273个关于儿童性虐待图像的报告，2023年增加了6％。报告中的大多数受害者是女孩。
IWF还宣布，将免费提供一个新的安全工具，以帮助他们发现并防止滥用材料在其平台上传播。
该工具称为图像截距，可以检测并阻止出现在IWF数据库中的图像，该图像包含280万张图像，这些图像被数字标记为犯罪图像。看门狗表示，这将有助于较小的平台遵守新推出的在线安全法，其中包含有关保护儿童和处理非法内容（例如儿童性虐待材料）的规定。
IWF临时首席执行官Derek Ray-Hill表示，免费提供该工具是在线安全方面的重要时刻。
技术部长彼得·凯尔（Peter Kyle）说孩子被勒索在发送亲密图像的过程中，强调了在线对年轻人的威胁如何不断发展。他说，新的图像拦截工具是一个有力的例子，说明如何使创新成为使在线空间更安全的解决方案的一部分。