数百万人正在使用AI机器人在几分钟内为几乎任何人生成裸照，在一个‘噩梦般的情景’中。

在线聊天机器人正在根据用户的要求生成真实人物的裸照，这让专家们感到担忧，他们担心这些露骨的深度伪造图像将“创造出一个非常恐怖的情景。”

一个 Wired对消息应用Telegram的调查发现了几十个据称能够“只需点击几下即可创建人物的色情照片或视频”的AI驱动聊天机器人，该媒体报告称。有些机器人可以去除用户提供的图片中的衣物，而另一些则声称可以制造人们进行性行为的成人照片。

该 outlet 估计，大约有 400 万用户每月利用聊天机器人提供的深度伪造功能，据估计此类聊天机器人共有约 50 款。《连线》杂志报道，这些生成式 AI 机器人承诺可以“根据你给我的照片提供任何你想的关于人脸或衣服的内容”。

“我们谈论的是使用和创作这种内容的人数有了数量级的增长，”亨利·阿杰德是一位深度伪造专家，在四年前他最早发现了地下色情Telegram聊天机器人的世界，他向《连线》杂志表示。

“这些工具——它们确实毁掉了许多人的生活，并且主要对年轻女孩和女性造成了非常可怕的后果——仍然如此容易在表面网络上获取，甚至在一个全球最大的应用程序中也能轻易找到，这真的令人担忧。”

虽然名人已经成为色情深度伪造兴起的受害者——从泰勒·斯威夫特到珍娜·奥尔塔也有最近的报道表明未成年女孩被用来制作深度伪造的裸照，其中一些已被用于“的情况下敲诈色情威胁。”A最近的一项调查甚至有报道称，40%的美国学生报告他们在学校发现了深度伪造的内容。

深度伪造网站蓬勃发展在人工智能技术取得进展的情况下，据《连线》杂志报道，但这些发展受到了立法者的严密审查。八月份，旧金山检察长办公室起诉了多家“脱衣”网站.

在 Telegram 上，机器人可以用于翻译、游戏和警报——或者在这种情况下，创建危险的深度伪造内容。当 Wired 就聊天机器人的露骨内容联系该公司时，该公司没有发表评论，但这些机器人及其相关的频道突然消失了，尽管创作者发誓“第二天会再做一个机器人”。

“这些伪造的图片可能会通过造成心理创伤以及羞辱、恐惧、尴尬和羞耻等感受来损害一个人的身心健康，”英国反家暴组织Refuge的技术协助虐待与经济赋权部门负责人Emma Pickering向《连线》杂志表示。

“虽然这种虐待行为很常见，但施暴者很少会被追究责任，我们知道这种虐待在伴侣关系中变得越来越普遍。”

#NotYourPorn倡议团体的联合创始人兼总监埃琳娜·米查莱告诉《连线》杂志，追踪和监控Telegram上可能推广此类露骨影像的应用程序“非常困难”，她对此表示“担忧”。

“想象一下，如果你是一个不得不自己做这些事情的幸存者，负担显然不应该落在个人身上，”她说。“公司的责任应该是采取主动措施而不是被动应对。”

非同意制作的深层伪造色情制品已在多个州被禁止，但专家表示Telegram的服务条款对成人内容的规定含糊不清。

凯特·鲁安（Kate Ruane），民主技术中心言论自由项目主任，告诉《连线》杂志：“我认为实际上并不清楚平台是否禁止未经同意创建或传播亲密照片。”

今年早些时候，Telegram首席执行官帕维尔·杜罗夫被逮捕了并被指控犯有传播儿童色情制品尽管他在被捕后发誓他的应用程序的运行方式及其隐私政策“几乎没有变化”。

在最近的一份声明中，他表示该平台在接到要求时会例行与执法部门合作，并誓言公司“不允许犯罪分子滥用我们的平台或逃避正义。”

“用智能手机时代之前的法律来指控一位首席执行官管理的平台上第三方所犯的罪行是一种误解，”杜罗夫在一篇Telegram帖子中写道。

“构建技术本身就已经够难了。如果创新者知道他们可能因这些工具的潜在滥用而承担个人责任，那么没有人会愿意开发新的工具。”

然而，专家们说Telegram应该承担责任。

阿杰德说：“Telegram 提供搜索功能，因此你可以识别社区、聊天和机器人。”

“它提供了机器人托管的功能，所以这是一个提供相关工具的地方。然后这也是一个你可以分享并实际执行以达到最终有害结果的地方。”