一项规范AI伴侣聊天机器人的加利福尼亚法案即将成为法律|TechCrunch

加利福尼亚州朝着规范AI迈出了重要一步。SB 243一项法案，该法案将对AI伴侣聊天机器人进行监管，以保护未成年人和弱势用户 - 并获得了两党支持的州议会和参议院，现在前往州长Gavin Newsom的办公桌。

Newsom必须在10月12日之前否决该法案或将其签署为法律。如果他签署，将于2026年1月1日生效，这使得加利福尼亚州成为第一个要求AI Chatbot运营商为AI伴侣实施安全协议的州，如果他们的聊天机器人未能符合这些标准，则使公司合法地负责。

该法案专门旨在防止立法将其定义为提供适应性，类似人类的响应的AI系统，并能够满足用户的社会需求 - 从而围绕自杀念头，自我伤害或性阐明内容进行对话。

该法案将要求平台向用户提供一次反复的警报，每三个小时为未成年人提醒他们，他们正在与AI聊天机器人（而不是真实的人）交谈，并且应该休息一下。它还为提供同伴聊天机器人的AI公司建立了年度报告和透明度要求，其中包括主要参与者OpenAi，Partear.ai和Replika，该公司将于2027年7月1日生效。

加利福尼亚法案还将允许那些认为自己因违法行为受伤的个人，以针对寻求禁令救济，损害赔偿（每次违规最高$ 1,000）和律师费的AI公司提起诉讼。” 

SB 243在一月份由州参议员史蒂夫·帕迪拉（Steve Padilla）和乔什·贝克（Josh Becker）引入。它在加利福尼亚州立法机关中获得了势头少年亚当·雷恩（Adam Raine）的死亡在与Openai的Chatgpt聊天后，他自杀了，该聊天涉及讨论和计划他的死亡和自我伤害。立法还响应泄漏内部文档据报道，据报道，元机器人被允许与孩子们进行浪漫和感官聊天。” 

最近几周，美国立法者和监管机构对保护未成年人的保护措施进行了加强审查。这联邦贸易委员会正在准备调查AI聊天机器人如何影响儿童的心理健康。德克萨斯州检察长肯·帕克斯顿（Ken Paxton）启动调查进入meta和targin.ai，指责他们误导了心理健康主张的儿童。同时，两者俩参议员乔什·霍利（Josh Hawley）（r-mo）和参议员埃德·马基（Ed Markey）（D-MA）已将单独的探针推向元。 

帕迪拉告诉TechCrunch，我认为危害可能很大，这意味着我们必须迅速行动。``我们可以设定合理的保障措施，以确保特别是未成年人知道他们不与一个真正的人交谈，这些平台在人们说诸如他们在考虑造成伤害或陷入困境之类的事情时将人们连接到适当的资源，并确保不适合不适当的材料。

Padilla还强调了AI公司共享数据的重要性，这些数据每年将用户推荐给用户参与危机服务的次数，因此我们对这个问题的频率有了更好的了解，而不是只在某人受到伤害或更糟的情况下意识到。”

SB 243以前有更强的要求，但许多人因修正案而被削弱。例如，该法案最初需要运营商来防止AI聊天机器人使用可变奖励策略或其他鼓励过度参与的功能。这些策略是由AI Companion公司（例如Replika and Charine）使用的，为用户提供了特殊信息，记忆，故事情节或解锁稀有回应或新个性的能力，创造了批评家所说的潜在上瘾的奖励循环。 

当前的法案还删除了需要运营商跟踪和报告聊天机器人对自杀念头或与用户行动进行讨论的频率的规定。 

``我认为这在不执行公司不可能遵守的事情的情况下达到了适当的平衡，要么是因为它在技术上不可行，要么是一无所有的文书工作，贝克尔告诉TechCrunch。 

SB 243在硅谷公司倾注的时候正朝着成为法律数百万美元政治行动委员会（PACS）支持即将到来的中期选举中的候选人，他们赞成对AI监管的轻触方式。” 

该法案还会出现，加利福尼亚州重量AI安全法案，SB 53，这将授权全面的透明度报告要求。Openai已写信给州长Newsom的公开信，要求他放弃该法案，以支持不太严格的联邦和国际框架。Meta，Google和Amazon等主要科技公司也反对SB 53。相比之下，仅拟人化表示支持SB 53。一个 

帕迪拉说，我拒绝这是零和局势的前提，即创新和法规是相互排斥的。”帕迪拉说。不告诉我我们可以走路和咀嚼口香糖。我们可以支持我们认为健康并且有好处的创新和发展，并且这项技术显然有好处，与此同时，我们可以为最脆弱的人提供合理的保障措施。

我们正在密切监视立法和监管环境，我们欢迎与监管机构和立法者一起开始考虑这个新兴空间的立法时。

META的发言人拒绝置评。

TechCrunch已与Openai，Anthropic和Replika联系，以供评论。