AI伴侣网站遭黑客攻击，数据揭示用户尝试模拟儿童虐待

一份关于被黑客攻击的报告称人工智能女友该网站声称许多用户正在尝试（并且可能已经成功）使用聊天机器人模拟儿童遭受性虐待的行为。

10月8日，404 媒体据报道，允许用户创建自己的“无审查”AI驱动的性主题聊天机器人的网站Muah.ai遭到了黑客攻击，并且大量用户数据被盗。这些数据显示了穆尔用户如何与聊天机器人互动。404 媒体看到被盗的数据，并写到在许多情况下，用户据称试图创建可以扮演儿童的聊天机器人。

黑客解释说：“我去那个网站手淫（明确地说，是一个成人场景），注意到[Muah.ai]的页面做得相当粗糙。”404 媒体“这基本上是一些开源项目勉强拼凑在一起的。我开始研究后很快发现了一些漏洞。起初，这只是出于好奇，但后来我决定联系[404 媒体] 一旦我看到了数据库里的内容。

根据404 媒体据报道称，被黑客窃取的部分数据包含有关性虐待学步儿童的露骨提示和信息。据报道，该媒体看到的一个提示要求与“新生儿”和“年幼的孩子”进行群交。404 媒体而黑客无法确认Muah.ai是否真正生成了用户想要的东西，但这反映了很多人正试图使用有争议的AI生成工具来创造些什么的一种阴暗面。

404 媒体穆阿(ai)的管理员哈佛韩上周发现了这次黑客攻击。运营该AI聊天机器人网站的人还声称，此次黑客行为是由“不加限制的AI行业”中的聊天机器人竞争对手“资助”的。404 媒体要求提供这一说法的证据但未收到任何回应。黑客告诉该媒体他们不从事人工智能行业。

“我们有一支审核团队，他们会暂停并删除我们在卡片画廊、Discord、Reddit等平台上所有与儿童相关的聊天机器人，”韩说。卡片画廊是指网站上可供使用的社区创建的AI聊天机器人列表。

正如指出的404 媒体，Muah.ai 自称是一个“无审查”的AI聊天平台，允许进行包含色情内容的对话和创建照片。然而，它也声称会根据其网站规定禁止所有未成年人相关内容。当两名用户在其Discord服务器上报告有关一个疑似未成年AI角色时，404 媒体要求用户不要在这里“发布那种垃圾”，而是去“私聊解决或类似处理”。

这又是如何的一个例子说明了如何AI生成工具而聊天机器人正变得更容易开发和在线分享，的同时围绕这些新技术的法律法规远远落后。这是一个恶意组合以及一个可能会变得更糟的情况随着AI生成工具变得更容易、更便宜和更快。

 .