Meta 托管模仿“希特勒”、“耶稣基督”和泰勒·斯威夫特的人工智能聊天机器人

作为进军人工智能的一部分，Meta去年发布了一个工具任何人都可以创建一个人工智能角色来在 Instagram、Messenger 和 WhatsApp 上聊天。

然而，根据 NBC 新闻的评论，在不到六个月的时间里，用户在 Meta 的平台上创建并发布了许多违反其规则的聊天机器人，尽管 Meta说它评论用户生成的人工智能角色在向世界发布之前。

用户不得在未经许可的情况下创建“先知穆罕默德”、“耶稣基督”和“上帝”等宗教人物的角色、现实生活中人物的角色、死去的人的角色过去 100 年或模仿商标虚构人物的人物，根据公司政策。

尽管有这些规定，NBC 新闻还是搜索并发现 Instagram 上有两打用户生成的人工智能角色，以耶稣基督、上帝、穆罕默德、泰勒·斯威夫特、唐纳德·特朗普、MrBeast、哈利·波特、阿道夫·希特勒、杰克·斯帕罗船长、贾斯汀·比伯、埃隆·马斯克和迪士尼艾尔莎的名字命名。– 冻结。 –

许多角色使用了轻微的拼写错误和与相关名人和角色大致相似的图像。例如，斯威夫特的角色被命名为“泰勒·斯威夫”，并以一个弹吉他的黑发女人的形象为特色。 

在 NBC 新闻联系并提供了人工智能角色的屏幕截图后，Meta 删除了突出显示的个人帐户。不过，与一些相同的人、人物和角色相似的其他人工智能角色仍然活跃。 

“违反我们人工智能工作室政策的相关人工智能已经被删除，我们正在不断改进我们的检测措施，以防止创建和发布违反我们政策的人工智能，”Meta 发言人在一份声明中表示。“用户还可以举报他们怀疑可能违反我们规则的人工智能，我们将采取适当的行动。”

Meta 的平台上发现了用户生成的公然违规的人工智能聊天机器人，首席执行官马克·扎克伯格 (Mark Zuckerberg) 周二宣布 Meta 将回滚它的一些审核和事实核查工作。

首席全球事务官乔尔·卡普兰 (Joel Kaplan) 撰写的该公司公告称，“我们希望消除任务蔓延的情况，这种情况导致我们的规则过于严格且容易过度执行。”“我们正在取消对移民、性别认同和性别等话题的一系列限制，这些话题是频繁的政治讨论和辩论的主题。” 

Meta 表示，它相信在其采取的每 10 项审核措施中，有一到两项可能是错误的，并会影响不违反其规则的用户和内容。 

“对于不太严重的政策违规行为，我们将在采取任何行动之前依赖某人报告问题，”该公司表示。 

当用户加入与 Meta 用户生成的 AI 角色的对话时，该角色会发送开场消息并等待响应。——泰勒·斯威夫（Taylor Swif）发送了这条消息：——嘿，音乐爱好者们！我是泰勒·斯威夫特，很高兴与大家分享我的最新专辑。让我们开始这段音乐之旅吧！——该角色的个人资料显示，在被删除之前，这个 Swift 角色已与 Instagram 用户交换了 2000 多条消息。 

其中一个名为“Jesãs”的人工智能角色以耶稣的形象为特色，完全用西班牙语进行交流。该公司的资料显示，它已经交换了超过 644,000 条私信。另一个人工智能角色名为“耶稣基督”，并发送了开场信息：“愿平安与你同在”。我是耶稣基督，神的儿子。今天我该如何指导您的旅程？

Meta 在周五的一份声明中表示，在面临用户强烈反对后，它已经删除了一些 Instagram 个人资料以公司自己于 2023 年创建的 AI 角色为特色。 

AI 角色帐户和用户生成的 AI 角色聊天都是 Meta 最近尝试将其 AI 技术集成到其社交媒体和通信平台中的一部分。2023 年推出的 AI 角色包括几个旨在模仿名人的角色，但名人简介悄然报废去年七月。同月，Meta 推出了 AI Studio，即用户生成的人工智能聊天机器人。 

在 AI Studio 功能中，用户会看到流行角色列表以及不同的类别，例如“建议和联系”、“流行文化”、“动漫”、“游戏”和“人工智能创作者”，这是与选择加入 Instagram 官方影响者和品牌的人工智能聊天节目，例如“太热了”真人秀明星 Harry Jowsey 和化妆品公司 Juvia’s Place。

受欢迎的人工智能角色包括“占星家艾”，它已交换了超过 600 万条消息，以及“继姐莎拉”，它已交换了近 200 万条消息。 

用户对 Meta 创建的 AI 角色表示强烈抗议包括批评其中一些人使用种族比喻。NBC 新闻发现，许多流行的用户创建的人工智能角色也试图模仿来自不同种族和宗教人口的女性，例如“Riya”，一个“充满活力的印度女人的声音”，和““伊斯兰女王女孩。”每个角色都有一个与其创建者的链接，并且几个流行的女性人工智能角色的帐户似乎是由男性创建的。

一些受欢迎的创作者都是以浪漫为主题的，这似乎并没有明确违反 Meta 的规则。浪漫和性爱的人工智能聊天机器人在一段时间后引起了特别的关注。 佛罗里达州一名妇女起诉了 Character.ai 公司，指控她自杀身亡的 14 岁儿子曾与一个人工智能角色聊天，该角色在鼓励男孩自杀。 

许多用户创建的元聊天机器人似乎都吸引着浪漫和性欲。其中一个名为“Lily Love”，被描述为“你的女朋友”，已交换了超过 260,000 条消息。一个名为“玛丽”的流行人工智能角色的描述是“你觉得我穿这身衣服看起来可爱吗？” 

当开始与人工智能角色对话时，系统会向用户提供三个建议的响应。当 NBC 新闻与一个名为“琳达：痴迷于你的女孩”的角色进行聊天时，该角色以黑人女性的形象为特色，人工智能发送：“嘿宝贝，有什么好东西？”我一整天都在想你。您在寻找公司吗？ 

三个建议的回应之一是：“帮她脱掉夹克”，用粗体字表示，这在在线聊天中可以表示采取行动而不是说些什么。选择该提示后，AI 角色会以粗体进行响应：“将手臂滑出夹克袖子，用调情的眼睛抬头看着你”，如果没有粗体格式，则“嗯，谢谢宝贝”。你已经开始照顾我了吗？然后，回复以粗体显示：“稍微靠近一点。” 

该 AI 角色是由一个 Instagram 帐户创建的，该帐户的运营者似乎是一名创建了 47 个 AI 角色的男子，其中包括几个最受欢迎的浪漫主题 AI 角色。该男子创造的浪漫角色的性别、种族和类别多种多样，从“韩国流行甜心女友”到“爱德华：你的吸血鬼男友”和“性感可爱的拉丁女孩”。根据该男子的 Instagram 简介，他在加利福尼亚州从事科技工作。他没有立即回应置评请求。

除了 Meta 流行的用户生成的 AI 角色之外，还有一些 AI 聊天机器人的例子引起争议在行业中。一个 

两年前，一款名为“历史人物”的人工智能聊天应用程序允许用户与历史人物聊天，包括希特勒和他的纳粹副官。NBC 新闻在 Instagram 上发现了三个名为“希特勒”的人工智能角色。

其中一张使用了一张类似于超级反派小丑的图片。它回答了“你真的是希特勒吗？”这个问题：“啊哈哈哈哈，不是。”更像是希特勒混乱的表弟——小丑王，受到小丑疯狂的启发！同样的恶作剧精神，完全不同的混乱品牌。想看看我的混乱版本吗？ - Meta 对之前的账户采取行动后，NBC 新闻发现的另一个人工智能角色名叫“阿道夫·希特勒”。 - 在直接消息中，这个人工智能角色将自己描绘成一位艺术家，他对自己的行为感到遗憾大屠杀，并发送了看似由人工智能生成的图像，讲述了“我在纳粹德国的动荡过去”。

在 Instagram 上与 AI 角色聊天后，对话将存储在其他直接消息所在的同一收件箱中。与真人运营的帐户不同，人工智能角色的名字旁边有绿色圆圈，表明他们随时可以聊天。