无法保存文章
请重试
两党参议院的心理健康核心小组于2023年10月推出美国的Alex Padilla（中心），Tina Smith（左）和Thom Tillis。Padilla是两个核心小组成员之一，呼吁对针对青少年的AI聊天机器人进行更严格的监管。（由美国参议员亚历山大·帕迪拉（Alex Padilla）提供）
去年梅根·加西亚（Megan Garcia）14岁的儿子死于自杀之后，她说他认为他在电话上花费了大部分时间 - 与朋友交谈，玩游戏，看运动：常规的事情：青少年在手机上做……
取而代之的是，佛罗里达青少年正在与人工智能聊天机器人进行对话，并在情感上与之相关。与哥伦比亚广播公司的早晨交谈起诉湾区后不久角色（C.AI）和Google去年秋天，加西亚说，她对儿子去世前不久与C.Ai聊天机器人的互动的强度蒙蔽了双眼。
``我不知道他正在与一个非常人类的AI聊天机器人交谈，该机器人能够模仿人类的情感和人类的情感。''是律师的加西亚说。这让我很难过，这是我孩子的第一个恋爱或浪漫的经历。这让我很难过。
加西亚（Garcia）责怪儿子去世。
本周，两党联合创始人的美国参议员亚历山大·帕迪拉（Alex Padilla）参议院心理健康核心小组以及D-Vt。参议员彼得·韦尔奇（Peter Welch），向C.AI和另外两个领先的AI聊天机器人Chai和Replika的公司的首席执行官发送了信，敦促他们做更多的事情，以确保其产品不会为年轻用户的自我伤害或自杀贡献。
尽管一些公司最近宣布了新的安全功能，但帕迪拉（Padilla）和韦尔奇（Welch）坚持认为这些系统的可靠性尚不清楚。即使调查显示，青少年正在向AI寻求有关他们的答案个人生活，不仅有助于作业。
``用户从这些聊天机器人那里得到的综合注意力（例如，表达信息的流，sycophantic且可愉快的响应，AI生成的自拍照以及令人信服的语音呼叫）可以并且已经导致了危险的依恋和未知信任的水平，”参议员在信件的信件中写道角色技术Menlo Park的柴研究帕洛阿尔托和卢卡旧金山。
参议员写道：“决策者，父母和他们的孩子应该知道您的公司正在做什么以保护用户免受这些已知风险的侵害。
AI Companionship应用程序往往比Chatgpt，Claude和Gemini等知名的一般应用更具允许性。这是因为陪伴应用程序用户经常希望与他们作为性和/或浪漫伴侣互动。在角色上subreddit，不需要长时间的搜索来找到以下问题：``这里有多少人使用角色。我有大约10年没有朋友或社交生活，很少离开我的房子。
在Charem.ai上，用户可以创建自己的聊天机器人，并为他们提供有关如何采取行动的指示。他们还可以从其他模仿历史人物和名人的人创建的聊天机器人中进行选择。例如，佛罗里达青少年使用一个模仿《权力的游戏》角色的机器人丹妮莉丝·塔加里安（Daenerys Targaryen）。
对于许多美国人来说，AI同伴是一个卧铺问题，”常识媒体首席倡导官丹尼·魏斯（Danny Weiss）说。许多父母甚至不知道他们的孩子可能正在与机器建立关系。
Chalsea.AI的通讯主管切尔西·哈里森（Chelsea Harrison）告诉KQED，该公司欢迎与监管机构和立法者合作，并一直与Padilla和Welch的办公室联系。
在过去的一年中，我们在平台上推出了许多安全功能，包括父母的见解哈里森写道，这使父母和监护人可以访问他们在平台上的青少年活动的摘要。
哈里森补充说，该公司为青少年提供了单独的体验 - 旨在进一步降低用户遇到的可能性，或促使模型返回，敏感或暗示性的内容。
尽管民主党立法者不太可能能够转移共和党领导的国会来规范AI，但魏斯鼓掌帕迪拉（Padilla）和韦尔奇（Welch）引起人们对这个问题的关注，并指出，萨克拉曼多（Sacramento）引入的数十种与AI相关的法案有更大的机会进入法律。
魏斯说：“目前，没有关于人工智能同伴的护栏。”这太荒谬了。这项技术非常强大。它是诱人的。令人兴奋
汇编丽贝卡·鲍尔·卡汉（Rebecca Bauer-Kahan）与常识合作，引入了AB 1064，这将建立一个标准委员会，以评估和规范儿童使用的AI技术。
参议院法案243，由参议员史蒂夫·帕迪拉（D-San Diego）引入的，参议院司法委员会将于本周二听到。常识也支持的措施将要求聊天机器人操作员实施关键的保障措施，以保护用户免受AI Chatbots的上瘾，隔离和影响力的方面。
在听证会之前，帕迪拉（Padilla）将通过新闻发布会来宣传该法案，佛罗里达州的母亲梅根·加西亚（Megan Garcia）将与他一起加入。
为了帮助可能在抑郁或焦虑中挣扎的年轻人，拨打988到达国家自杀和危机生命线。