纽约州议员禁止未成年人的深层诉讼，要求AI免责声明

2025年5月12日

纽约议员正在为人工智能聊天机器人提供保障措施，因为越来越多的人转向他们进行对话和陪伴。

科技公司现在将不得不在纽约发布免责声明，其AI伴侣聊天机器人不是人类，并将表达自杀想法的用户转介到心理健康热线上。

此外，州议员在使用AI人为地产生性内容时使用未成年人的形象或相似之处的人是犯罪。

纽约州长凯西·霍克尔（Kathy Hochul）与立法者合作，将这些措施包括在今年的州预算中，以加强对AI驱动的网站的法规，并打击利用或Doxxes未成年人的AI生成的内容的扩散。

议员们通过了将于4月1日星期四晚上到期的预算。

大会筹集者亚历克斯·鲍尔斯（Alex Bores），D-Manhattan是其会议厅科学技术委员会成员，他说，对新兴技术的规定是必要的。

Bores表示，这项技术中的许多技术是无法预测的，尽管有一些可以建立的护栏，但并不是每个公司都集中或勤奋地这样做。”

因此，这是不够的，这是新的，令人兴奋的技术。让它成长。我们需要保护人类。

AI Companion Bots现在需要的免责声明

诸如字符等应用程序允许用户设计自己的角色与其他预制字符扮演或角色扮演。 新法律之一在与AI机器人的互动开始时，将需要免责声明，此后每三个小时，人造伴侣不是真实的人。

``人类倾向于使他们与之互动的东西拟人化，因此您知道这是一个人工智能，但是您开始像对待人一样对待它，并且具有情感和反应，就好像您在与人交谈一样。”

``遇到这种中断，提醒它是一个人工智能，在某些情况下，中断了这一过程，在某些情况下，将感觉和情感上的依恋发展到最终是人工智能的过程中。”

AI同伴不是人类的免责声明将在180天内生效，并将由纽约总检察长办公室执行。不遵守免责声明的公司将面临罚款，这将有助于支付一个新的全州自杀预防网络，该网络也是今年预算的一部分。

州议员说，AI伴侣软件的监管不够，导致了令人震惊的案件。 与机器人建立了情感依赖关系，一些父母声称 AI聊天机器人对未成年人表示同情谁想杀死父母。

但是，科技领导者已将AI伴侣技术作为解决美国卫生与公共服务部在2023年描述的一种解决方案孤独流行……

现实是，人们与他们没有任何联系，梅塔（Meta）和Facebook创始人马克·扎克伯格（Mark Zuckerberg）在 面试当他讨论AI同伴的价值时。

扎克伯格（Zuckerberg

扎克伯格在将来谈到AI陪伴时说：“我们会发现词汇作为一个社会，能够表达出它有价值的原因。”

强制性心理健康参考

位于科学技术委员会的贝尔斯（Bores）说，一些用户只是觉得自己可以倾诉聊天机器人关于他们的心理健康斗争，包括自杀念头或自我伤害的意图。

在这些情况下，鲍尔斯（Bores）和其他州议员说，科技公司有责任检测这些陈述，并提示AI Chatbot将用户转介到988，该国的自杀热线或对话中的其他危机支持网络。

``如果（用户正在）表达表明他们可能有自我伤害的情绪，就像我们在某些情况下对人类的强制性报告一样，我们认为该公司还应该负责试图指导人们提供帮助。”因此，通过将其提及988或其他帮助线，也许我们可以在为时已晚之前获得他们所需要的帮助。”

州长办公室说，未能发出热线通知也将导致罚款。然后，罚款也将用于该州的新自杀预防基金。

禁止AI生成的未成年人

议员们还同意将描绘未成年人描绘的深层蛋糕定为犯罪。

尽管现行的州法律禁止包括未成年人在内的性内容，但并未明确禁止使用AI人为地产生色情的儿童。

该立法的最新消息类似于《纽约AI儿童安全法》，该法案是R-Oyster Bay的Jake Blumencranz共同赞助的。

Blumencranz说，他起草了《 AI儿童安全法》，以回应全国增长的实例，其中未成年人的照片被数字化修改并包含在色情内容中。

他说，在长岛的11名妇女以深层计划为目标之后，他特别有动力引入立法。” 检察官说罪魁祸首在中学和高中时拍摄了妇女的图像，更改了图像，使她们看起来很明确，并在色情网站上发布了几年的图像。官员们说，肇事者还通过公开发布其姓名，地址和其他个人信息来使妇女赢得妇女。

``我认为以您没有许可的方式利用某人的肖像应该永远不对，并且以性化的方式进行性惩罚应该是更大的惩罚。”布鲁蒙克兰兹说，与预算相比，他的拟议立法将使深层诉讼的使用将使更高的犯罪分类。