加利福尼亚州议员在父母提出安全问题之后应对AI聊天机器人的潜在危险

当她14岁的儿子与人工智能聊天机器人互动后自杀时，梅根·加西亚（Megan Garcia）将悲伤变成了行动。

去年，佛罗里达州妈妈起诉角色。EAI，一个平台，人们可以在该平台上与模仿真实和虚构人物的数字角色创建和互动。

加西亚在联邦诉讼中声称，该平台的聊天机器人损害了儿子Sewell Setzer III和加利福尼亚州Menlo Park的心理健康，当他对这些虚拟角色表达自杀想法时，他未能通知她或提供帮助。

现在，加西亚（Garcia）正在支持州立法，旨在保护年轻人免受聊天机器人的侵害，她说 - 旨在让弱势用户参与不当的浪漫和性交谈，并鼓励自我伤害。”

加西亚在周二的新闻发布会上说，随着时间的流逝，我们将需要一个全面的监管框架来解决所有危害，但是现在，我很高兴加利福尼亚处于奠定基础的最前沿。

随着公司迅速发展聊天机器人的行动，父母，立法者和儿童倡导团体担心，没有足够的保障措施来保护年轻人免受技术潜在的危险。

为了解决这个问题，州立法者提出了一项法案，该法案将要求伴侣聊天机器人平台的运营商提醒用户每三个小时一次虚拟字符。平台还需要采取其他步骤，例如实施一个协议，以解决用户表达的自杀意念，自杀或自我伤害。其中包括向用户自杀预防资源。

根据参议院第243号法案，这些平台的运营商还将报告同伴聊天机器人提出自杀念头或用户的行动以及其他要求的次数。

该立法清除了参议院司法委员会，这只是州议员试图解决人工智能带来的潜在风险的一种方式，因为聊天机器人在年轻人中受到欢迎。每月有超过2000万人使用角色。

立法者说，该法案可能成为AI保护的国家模式，该法案的一些支持者包括儿童倡导组织常识媒体和美国加利福尼亚州儿科学院。

技术创新至关重要，但是我们的孩子不能用作豚鼠来测试产品的安全性。在加西亚参加的活动中，参议员史蒂夫·帕迪拉（D-Chula Vista）参议员史蒂夫·帕迪拉（D-Chula Vista）说，赌注很高。

但是，包括Technet和加利福尼亚商会在内的技术行业和业务集团反对立法，告诉立法者，这将对一般目的AI模型施加不必要和繁重的要求。

政府可能对预防自杀有着引人注目的兴趣。EFF写信给立法者，但是该法规并不是狭义的量身定制或精确的。

角色ai还浮出水面关于加西亚诉讼的第一修正案。它的律师在一月份要求联邦法院驳回此案，并指出，父母的青睐的裁定将侵犯用户的宪法自由言论权。

Chelsea Harrison是角色的女发言人。AI表示，该公司在一封电子邮件中认真对待用户安全，其目标是提供一个吸引人和安全的空间。”

我们一直在努力实现这种平衡，许多公司在整个行业中使用AI。她在一份声明中说，我们欢迎与监管机构和立法者一起考虑有关这个新兴空间的立法时。”她在一份声明中说。

她引用了新的安全功能，其中包括一种工具，该工具使父母可以看到青少年在平台上花费了多少时间。该公司还列举了其努力缓解潜在的有害内容，并将某些用户引导到国家自杀和危机生命线。

包括Snap和Facebook的母公司Meta在内的社交媒体公司还在其应用程序中发布了AI聊天机器人，以与Openai的Chatgpt竞争，人们用来生成文本和图像。虽然有些用户使用Chatgpt获得建议或完成工作，但有些用户也转向这些聊天机器人来扮演虚拟男友或朋友的角色。

议员们还在努力定义伴侣聊天机器人。该法案不适用于为客户服务设计的聊天机器人。

帕迪拉（Padilla）在新闻发布会上说，该立法侧重于固有危险的产品设计，旨在保护未成年人。