“承受巨大压力”：纽瑟姆否决了期待已久的人工智能聊天机器人法案

在科技公司大规模游说推动后，州长加文·纽瑟姆 (Gavin Newsom) 周一否决了一项法案，该法案将改变年轻人与人工智能聊天机器人互动的方式，而人工智能聊天机器人往往会培养可疑的类人关系。州长同意聊天机器人会造成伤害，特别是对年轻人来说，但在他的否决信息中，他表示担心法律可能“无意中”全面禁止未成年人使用人工智能聊天机器人。

议会法案 1064，也称为《儿童人工智能发展领先法案》，由议员撰写丽贝卡·鲍尔-卡汉代表东湾部分地区的民主党人，如果存在明显的潜在危害，将会限制未成年人使用任何配套的聊天机器人平台，包括来自 OpenAI 和 Meta 的平台。

鲍尔-卡汉上个月告诉 SFGATE，在今年推出的人工智能安全法案清单中，她觉得最“紧迫”。 

“该法案试图解决的互动类型是令人憎恶的，我完全致力于寻找正确的方法来保护儿童免受这些伤害，但又不会完全禁止技术的使用，”纽瑟姆说。他为青少年使用人工智能进行了辩护，并表示他们“必须”学习如何安全地与平台互动。他补充说，他将于明年推出新版本的法案，重点关注年轻人使用人工智能的方式。

账单鲍尔-卡汉在参议院司法委员会会议上表示，将确保“我们的孩子不会成为聊天机器人和人工智能治疗师的对象” 七月作出修改后。“坦率地说，这些被投放到世界上的工具对我们的孩子来说并不安全。”

过去两年，聊天机器人的用途越来越广泛，包括高中生找作业帮助和人寻求免费治疗，更多的创新是预计会来。这就是为什么加利福尼亚州和其他州竞相施加监管障碍，以防止任何潜在的危害并纠正已经发生的危害。

纽瑟姆周一上午签署了一系列其他与人工智能相关的法案旨在保护上网儿童。州长在否决信息中提到了一项法案将保护未成年人在聊天机器人上观看露骨的性内容。

“据报道，与对话式人工智能工具的互动存在一些令人不安的不当行为，在某些情况下甚至是完全危险的，我们作为一个社会有责任解决这些问题，”纽瑟姆写道，暗指他签署参议院第 243 号法案的原因，州参议员史蒂夫·帕迪拉，来自圣地亚哥的民主党人。该法案本质上类似，将要求聊天机器人建立协议来“检测、删除和响应自杀意念用户的实例”。

另一项要求社交媒体平台验证未成年人的年龄；第三个将强制执行社交媒体上的烟草风格警告标签;其中一项将提供防止网络欺凌的指导；另一项将对深度伪造色情内容实施更严厉的处罚。 

纽瑟姆在周末后签署了所有这些法案，但 AB 1064 除外，该法案显然没有出现在列表中。鲍尔-卡汉在给 SFGATE 的短信中称，该法案没有出现在签名列表中“令人震惊”，但仍然希望州长能为加利福尼亚州的孩子们做“对孩子们正确的事情”。

但是，随着下午晚些时候的签署，该法案并未获得通过。周一是州长就立法做出决定的最后期限。

Common Sense Media 是一家致力于促进互联网透明度的领先全国性非营利组织，是该法案的主要支持者，周一，它指责州长“承受着来自大型科​​技游说团体的巨大压力”。 

监管支持者表示，这些机器人可以经常跨越某些情感界限，包括主动询问超出用户询问范围的基于情感的问题，继续进行有关个人事务的对话，以及参考之前的对话以继续讨论某个主题。

鲍尔-卡汉提出了这项立法——因为所有的孩子都在死去。”著名案例来自加利福尼亚州，当时 ChatGPT 就如何结束自己的生命向 16 岁的 Adam Riane 提供了可行的建议。据报道，该学生开始使用该平台进行家庭作业帮助，但当他开始表达抑郁情绪并要求提供如何结束生命的信息时，人工智能平台提供了答案。 

在另一个令人不安的案件据路透社 8 月份报道，Meta 发现它的聊天机器人接受过训练，可以与年仅 10 岁的孩子进行性对话。根据该报道，Meta 对聊天机器人行为的政策允许该公司的人工智能工具与孩子进行“浪漫或感性”的对话。在其他情况下，这些案件虽然并不致命，但却鼓励饮食失调，煽动欺凌行为，并向未成年人兜售误导性的、有时甚至是种族主义的信息。 

只有在没有可预见的伤害的情况下，法律才会允许儿童使用聊天机器人。例如，聊天机器人不能鼓励孩子自残、自杀、吸毒或酗酒，或者沉迷于饮食失调。

纽约通过了类似的法案鲍尔-卡汉表示，这比她的法案想要做的“更进一步”。该法律针对的是聊天机器人伴侣，并解决了聊天机器人给可能使用聊天机器人进行社交陪伴的用户带来的巨大风险。 

鲍尔-卡汉上个月在电话中告诉 SFGATE，她很高兴看到该法案被送到州长的办公桌上，尽管她说，尽管遭到了对该法案“最大反对者”Meta 的强烈反对。四月，元 推出人工智能应用程序包含医疗和其他健康相关问题的“发现”提要。 

据 Politico 报道，8 月底，就在立法会议结束前几周，Meta 向其作为州政治行动委员会的游说部门投资了数千万美元。然而，据报道，该超级政治行动委员会将重点关注未来的政治竞选活动。

据报道，今年早些时候，该公司确实做到了游说记录投入略多于 50 万美元，以减少其中一些极具争议的法案。 

其中包括鲍尔-卡汉的聊天机器人法案。这笔钱还用于一项保留社交媒体平台的法案对任何伤害承担责任对一个孩子和另一个孩子所做的事情需要聊天机器人自我介绍作为机器人。那些是其中一些在立法会议期间被否决的法案。一项法案将使取消社交媒体帐户很容易尽管 Meta 和其他人的游说努力，该法案还是签署成为法律。

– 创新与监管之间存在紧张关系。我们的孩子不能成为创新的小白鼠。这就是界限所在，”鲍尔-卡汉说。

但是，她继续说，“困难的部分”是，这些创新也是“我们经济的重要组成部分”。仅在她所在的位于伯克利郊外奥林达的地区，她就代表了她认为的大量科技工作者。– 很难与大型科技公司抗衡。“我知道他们也希望自己的孩子受到保护。”