儿童专员说，禁止创建儿童裸露图像的应用程序。
英格兰儿童专员呼吁政府禁止使用人工智能（AI）创建儿童的性别图像的应用程序。
雷切尔·德·苏扎（Rachel de Souza）夫人说，在应用程序上需要进行全面禁令，该应用程序允许“裸体化” - 在其中，AI编辑了真实人的照片，以使他们显得赤裸。
她说，政府允许这样的应用程序“不受极端现实世界的后果进行选中”。
政府发言人说，儿童性虐待材料是非法的，并且有计划进一步创建，拥有或分发旨在创建此类内容的人工智能工具。
Deepfakes是用AI制作的视频，图片或音频剪辑，以使其看起来或听起来真实。
在周一发布的报告雷切尔夫人说，这项技术的针对女孩和年轻女性的技术不成比例，其中有许多定制应用程序似乎仅适用于女性身体。
报告说，女孩们正在积极避免发布图像或在线参与，以降低被针对性的风险，“就像女孩遵循其他规则以确保自己在离线世界中安全的方式一样，就像晚上不独自一人回家一样”。
孩子们担心“一个陌生人，同学甚至朋友”可以使用可以在流行的搜索和社交媒体平台上找到的技术来针对他们。
雷切尔夫人说：“这些工具的演变正在以如此规模和速度发生，以至于试图掌握它们所构成的危险可能是压倒性的。
“我们不能坐下来，让这些定制的AI应用程序对儿童的生活如此危险。”
这是非法的在线安全法分享或威胁要共享明确的深泡图像。
政府于2月宣布解决AI产生的儿童性虐待图像威胁的法律，其中包括使其拥有，创建或分发旨在创建此类材料的AI工具是非法的。
雷切尔夫人说，这还不够远，她的发言人告诉英国广播公司：“不应该有裸露的应用程序，而不仅仅是没有被归类为儿童性虐待产生者的应用程序。”
2月份，互联网观察基金会（IWF）是一家由科技公司部分资助的英国慈善机构 - 确认了245份有关2024年AI生成的儿童性虐待的报道，而2023年的51个报告增加了380％。
IWF临时首席执行官德里克·雷·希尔（Derek Ray-Hill）周一说：“我们知道这些应用程序在学校被滥用，这些图像很快就失控了。”
科学，创新和技术部的发言人说，创建，拥有或分发儿童性虐待材料（包括AI生成的图像）是“令人讨厌和非法的”。
他们补充说：“根据所有规模的在线安全法案平台，必须删除这种内容，否则它们可能会面临重大罚款。”
“英国是世界上第一个引入AI儿童性虐待犯罪的国家 - 使其拥有，创建或分发旨在产生令人发指的儿童性虐待材料的AI工具是非法的。”
雷切尔夫人还呼吁政府：
- 对生成AI工具的开发人员施加法律义务，以识别和解决其产品对儿童的构成风险，并采取行动减轻这些风险
- 建立一个系统性的过程，以删除互联网上儿童的性明确的深泡图像
- 认识到性虐待是一种对妇女和女孩的暴力形式
学校领导联盟联盟秘书长保罗·惠特曼（Paul Whiteman）说，成员分享了专员的担忧。
他说：“这是一个迫切需要审查的领域，因为技术风险超过了围绕法律和教育的领域。”
媒体监管机构的Compor发表了周五其儿童密码的最终版本这对托管色情和内容的平台提出了法律要求，鼓励自杀，自杀或饮食失调，以采取更多行动，以防止儿童进入。
监管机构说，网站必须引入加强的年龄检查或面临大罚款。
雷切尔夫人批评了该法规，称其优先于“技术公司的商业利益，而不是儿童的安全”。
关于《儿童专员说，禁止创建儿童裸露图像的应用程序。》的评论
暂无评论