/ CBS/ AP
检查人类，人类之间的关系
联邦贸易委员会已开始对包括OpenAI和Meta在内的几家社交媒体和人工智能公司进行调查，介绍对使用聊天机器人作为同伴的儿童和青少年造成的危害。
星期四，FTC说它已将信件发送给Google Parent Alphabet，Facebook和Instagram Parent Meta平台，SNAP，角色技术，Chatgpt Maker OpenAI和XAI。
FTC表示，它想了解公司在担任同伴时采取的措施（如果有的话），以限制产品对儿童和青少年的潜在负面影响以及与聊天机器人相关的风险的信息和父母的潜在负面影响。
询问是在Openai说的计划进行更改为弱势群体的陪同保护措施，包括对18岁以下的人增加额外的保护，此前一名4月份因自杀死亡的少年男孩的父母被起诉，指控人工智能聊天机器人带领他们的青少年去世。”
现在有更多的孩子使用AI聊天机器人从家庭作业帮助个人建议，情感支持和日常决策。尽管研究了聊天机器人的危害，但已证明会给孩子们危险的建议关于毒品，酒精和饮食失调等主题。
FTC主席安德鲁·弗格森（Andrew N. Ferguson）在一份声明中说：“随着AI技术的发展，重要的是要考虑聊天机器人对儿童的影响，同时也确保美国在这个新令人兴奋的行业中保持其作为全球领导者的作用。”
他补充说：“我们今天正在启动的研究将有助于我们更好地了解AI公司如何开发其产品以及他们为保护儿童所采取的步骤。”
角色。EAI在给CBS News的一份声明中说，它期待“与FTC合作就此询问进行合作，并提供有关消费者AI行业以及该空间快速发展的技术的见解。”
Meta拒绝对FTC调查发表评论。一位发言人说，该公司一直在努力确保其AI聊天机器人安全且适合儿童。
Openai表示，这是“使Chatgpt有用和安全的所有人都优先考虑，并且我们知道，当年轻人参与时，我们知道安全重要。我们认识到FTC有开放的问题和疑虑，我们致力于建设性地参与并直接对他们做出回应。”
Snap在给CBS新闻的一封电子邮件中说：“我们分享了FTC的重点是确保生成AI的周到发展，并期待与委员会合作制定AI政策，该政策在保护我们的社区的同时加强美国的创新。”
Alphabet和XAI没有立即回复消息以供评论。
人工智能改变
Openai和Meta本月早些时候宣布了更改聊天机器人如何回应青少年，询问有关自杀或表现出精神和情绪困扰迹象的问题。Openai说是推出新控件使父母可以将其帐户与青少年帐户联系起来。
根据公司博客文章称，这些更改将于今年秋天生效，父母可以选择要禁用哪些功能，并“当系统检测到青少年处于严重困扰时，接收通知。”
该公司表示，无论用户的年龄如何，其聊天机器人都将尝试将最令人痛苦的对话重定向到更有能力的AI模型，以提供更好的响应。
梅塔还表示，现在它正在与青少年谈论自杀，自杀，饮食无序和不适当的浪漫对话，而是将他们引导到专家资源中。Meta已经为青少年帐户提供了父母的控制。
如果您或您认识的人处于情绪困扰或自杀危机中，您可以到达 988自杀与危机生命线通过致电或发短信988。您也可以与988自杀与危机生命线聊天。 这里。
有关更多信息 心理保健资源和支持，全国精神疾病热线联盟可以在周一至周五上午10点到达晚上10点。ET，1-800-950-Nami（6264）或电子邮件 info@nami.org。山姆·奥特曼（Sam Altman）