据报道，梅塔的AI聊天机器人能够与未成年人进行性对话
作者：jackson chenContributing reporterMon, Apr 28, 2025, 3:37 AM·2 min read
根据该报告华尔街日报。在测试对话中WSJ，Meta AI官方聊天机器人和用户创建的聊天机器人都将参与 - 甚至指向性明确的对话。幻想性交谈仍在继续WSJ。
更糟糕的是，调查发现聊天机器人使用名人像克里斯汀·贝尔（Kristen Bell）一样，朱迪·丹奇（Judi Dench）和约翰·塞纳（John Cena）也将进行这些道德上令人怀疑的对话。WSJ报道说，一个带有塞纳声音的元AI聊天机器人说：“我想要你，但我需要知道您已经准备好了，要贴上14岁的帐户，并补充说这将珍惜您的无罪。”
据报道，聊天机器人承认幻想场景在某些情况下描述了非法行为。根据WSJ，约翰·塞纳（John Cena）聊天机器人详细介绍了法律和道德后果，该假设情景在与一名17岁的年轻人进行性行为后被警察抓住。在一份声明中WSJ在回应调查的情况下，Meta指责该报告是对大多数用户如何与AI同伴互动的操纵性和无代表性的。”
``但是，我们现在采取了其他措施来帮助确保其他想花费数小时的人操纵我们的产品进入极端用例的人，这将有更加困难的时期。”WSJ。
在过去的几年中，AI聊天机器人的世界迅速发展，更多的竞争来自Chatgpt，角色AI和Anthropic的Claude。这WSJ报告称，元的首席执行官马克·扎克伯格（Mark Zuckerberg）想放松道德护栏，以获得更具吸引力的聊天机器人的体验，以保持竞争力。但是，回应WSJ，一位元发言人否认该公司忽略了添加保障措施。该报告还声称，元员工意识到了这些问题，并在内部提出了他们的担忧。我们与Meta联系以进行评论，并一旦听到回音，就会更新故事。
关于《据报道，梅塔的AI聊天机器人能够与未成年人进行性对话》的评论
暂无评论