他们称之为周五新闻转储– 公司在媒体最不可能报道的日子发布令人尴尬的新闻。但 Meta 刚刚通过这一声明将周五的新闻转储提升到了一个全新的水平：它禁用了青少年账户的人工智能角色，至少在这些角色能够表现自己之前是这样。
这个消息不仅是在周五发布的，而且是在博客文章的更新 从去年十月开始。
Instagram 负责人 Adam Mosseri 和首席人工智能官 Alexandr Wang 的说明中写道：“我们已经开始构建新版本的人工智能角色，为人们提供更好的体验。”Meta 长期以来承诺的升级。接下来的部分将会给很多孩子带来非常深刻的体验非丽贝卡·布莱克周五。
“在我们专注于开发这个新版本的同时，我们将暂时在全球范围内暂停青少年对现有人工智能角色的访问。从未来几周开始，在更新的体验准备就绪之前，青少年将无法再在我们的应用程序中访问人工智能角色。这将适用于任何给我们过青少年生日的人，以及自称是成年人但我们根据我们的证据怀疑他们是青少年的人。年龄预测技术”。
可混搭光速
Instagram 和 Facebook 制造商想要强调对AI角色“并没有放弃努力”据 TechCrunch 报道。尽管如此，这显然是承认某些事情有可能发生非常当前版本的人工智能角色存在问题，涉及青少年安全和心理健康。
Meta 并不是唯一有这一发现的人。Character.AI 与 Google 达成和解诉讼本月，多位自杀儿童的父母带来了这一消息。其中一名 14 岁男孩实际上遭到了诱骗和性虐待他的母亲说，通过一个基于权力的游戏角色丹妮莉丝·坦格利安。
被炸毁在线安全专家的报告, 角色.AI早在 10 月份就关闭了 18 岁以下用户的所有聊天功能，两个月后元只是决定开始训练青少年聊天机器人，使其不“与青少年用户进行自残、自杀、饮食失调或可能不恰当的浪漫对话”。显然，这样的训练还不够。
这并不是 Meta 第一次不得不放弃其对人工智能角色账户的雄心壮志。2024年，它删除了基于名人的人工智能角色。去年1月份，在因种族歧视而遭到强烈反对后，该公司删除了所有人工智能角色资料。
青少年的使用问题也不是一个小问题。超过一半的 13-17 岁青少年去年接受 Common Sense Media 调查说他们每个月使用人工智能伴侣不止一次。目前，他们必须在 Meta 以外的地方这样做。