加利福尼亚州萨克拉门托 (美联社) 加利福尼亚州州长加文·纽瑟姆 (Gavin Newsom) 周日签署了两项提案，旨在帮助保护未成年人免受日益严重的人工智能深度造假裸照的侵害。普遍滥用人工智能工具来产生有害的儿童性图像。
这些措施是加州共同努力的一部分，旨在加强对大帐篷行业的监管，该行业日益影响美国人的日常生活，但几乎没有什么效果。本月早些时候，纽瑟姆还签署了一些最严厉的法律来解决选举深度造假问题，尽管这些法律正在法庭上受到质疑。加利福尼亚州被广泛视为美国人工智能行业监管的潜在领导者。
新法律得到了两党的压倒性支持，填补了人工智能生成的儿童性虐待图像的法律漏洞，并明确了这一点儿童色情制品即使是由人工智能生成的，也是非法的。
现行法律不允许地方检察官追查拥有或分发人工智能生成的儿童性虐待图像的人，如果他们无法证明这些材料描绘的是真实的人，支持者说。根据新法律，此类犯罪行为将构成重罪。
在加利福尼亚州，制作、拥有和分发儿童性虐待材料必须是非法的，无论这些图像是人工智能生成的还是真实儿童的图像，民主党其中一项法案的起草者、议员马克·伯曼在一份声明中表示。用于创建这些可怕图像的人工智能是根据数千张真实儿童被虐待的图像进行训练的，从而使这些儿童再次受害。
纽瑟姆本月早些时候还签署了另外两项法案，以加强针对复仇色情的法律目标是保护更多妇女、少女和其他人免受人工智能工具带来的性剥削和骚扰。根据州法律，成年人在未经他人同意的情况下创建或分享人工智能生成的露骨色情深度伪造品将是非法的。社交媒体平台还被要求允许用户举报此类材料并要求删除。
但洛杉矶县地方检察官乔治·加斯恩 (George Gascn) 表示，一些法律还不够，他的办公室赞助了一些提案。Gascn 表示，对分享人工智能生成的复仇色情内容的新处罚也应该包括 18 岁以下的人。上个月，州立法者缩小了这项措施的范围，仅适用于成年人。
Gascn 在最近的一次采访中表示，这必然会产生后果，你不会因为未满 18 岁而获得免费通行证。
这些法律是在旧金山对十多个使用人工智能工具的网站提起全国首例诉讼后出台的，这些网站承诺在几秒钟内脱掉上传到网站的任何照片。
深度伪造的问题并不新鲜，但专家表示，随着生产技术变得更容易获得和更容易使用，问题变得越来越严重。过去两年，研究人员一直在对人工智能生成的儿童性虐待材料（使用真实受害者或虚拟角色的描述）的爆炸式增长发出警报。
3 月份，比佛利山庄的一个学区开除了五所中学。学生创作并分享同学的假裸体。
这个问题促使两党在近 30 个州迅速采取行动，帮助解决人工智能生成的性虐待材料泛滥的问题。其中一些包括对所有人的保护，而另一些则仅禁止描绘未成年人的材料。
纽瑟姆称赞加州是人工智能技术的早期采用者和监管者，并表示该州可能很快就会部署生成式人工智能工具来解决尽管他的政府正在考虑针对招聘实践中人工智能歧视的新规则，但仍需解决高速公路拥堵问题并提供税收指导。