加利福尼亚州州长加文·纽瑟姆签署了这两项提案。
加利福尼亚州萨克拉门托 - 加利福尼亚州州长加文·纽瑟姆 (Gavin Newsom) 周日签署了两项提案，旨在帮助未成年人免受日益普遍的滥用人工智能工具产生有害儿童性图像的影响。
这些措施是加州共同努力加强对帐篷行业监管的一部分，该行业日益影响美国人的日常生活，但在美国却几乎没有监管。
本月早些时候，纽森还签署了一些最严厉的法律来解决选举深度造假问题，尽管这些法律正在法庭上受到质疑。加州被广泛视为美国人工智能行业监管的潜在领导者。
新法律得到了两党压倒性的支持，填补了人工智能生成的儿童性虐待图像的法律漏洞，并明确儿童色情制品即使是人工智能生成的也是非法的。
支持者表示，现行法律不允许地方检察官追查拥有或分发人工智能生成的儿童性虐待图像的人，如果他们无法证明这些材料描绘的是真人。根据新法律，此类犯罪行为将构成重罪。
在加州制作、拥有和传播儿童性虐待材料必须是非法的，无论这些图像是人工智能生成的还是真实的儿童，”其中一项法案的起草人、民主党议员马克·伯曼 (Marc Berman) 在一份声明中表示。人工智能用于创建这些可怕图像的方法是从数千张真实儿童被虐待的图像中训练出来的，使这些儿童再次受害。
纽瑟姆本月早些时候还签署了另外两项法案，以加强针对色情报复的法律，目的是保护更多妇女、少女和其他人免受人工智能工具带来的性剥削和骚扰。根据州法律，成年人在未经他人同意的情况下创建或分享人工智能生成的露骨色情深度伪造品将是非法的。社交媒体平台还必须允许用户举报此类材料以将其删除。
但洛杉矶县地方检察官乔治·加斯恩 (George Gascn) 表示，有些法律还不够深入，他的办公室赞助了一些提案。Gascn 表示，对分享人工智能生成的复仇色情内容的新处罚也应该包括 18 岁以下的人。上个月，州立法者缩小了该措施的范围，仅适用于成年人。
必须有后果，Gascn 在最近的一次采访中表示，你不会因为未满 18 岁而获得免费通行证。
这些法律是在旧金山对十几个使用人工智能工具的网站提起全国首例诉讼后出台的，这些网站承诺在几秒钟内脱掉上传到网站的任何照片。
深度伪造的问题并不新鲜，但专家表示，随着生产技术变得更容易获得和更容易使用，问题变得越来越严重。过去两年，研究人员一直在对人工智能生成的使用真实受害者或虚拟角色描绘的儿童性虐待材料的爆炸式增长发出警报。
三月份，比佛利山庄的一个学区开除了五名中学生，因为他们制作并分享了同学的假裸照。
该问题促使近 30 个州的两党迅速采取行动，帮助解决人工智能生成的性虐待材料泛滥的问题。其中一些包括对所有人的保护，而另一些则仅禁止描绘未成年人的材料。
纽瑟姆将加州视为人工智能技术的早期采用者和监管者，并表示该州可能很快就会部署生成式人工智能工具来解决高速公路拥堵问题并提供税收指导，尽管他的政府正在考虑制定针对招聘实践中人工智能歧视的新规则.