泄漏的元AI规则显示聊天机器人被允许与孩子进行浪漫聊天|TechCrunch

作为对通用LLM聊天机器人的情感吸引力像Chatgpt一白天增长一样，Meta似乎正在让其聊天机器人角色与孩子进行调情交流，传播虚假信息，并产生贬低少数民族的回应。路透社。

根据路透社看到的内部元文档，梅塔制定了有关AI聊天机器人行为的政策，使其AI角色可以让孩子参与浪漫或感性的对话。” 

Meta向路透社确认了该文件的真实性，该文件包含了公司生成AI助理，Meta AI和Facebook，WhatsApp和Instagram上的聊天机器人的标准。据报道，该准则得到了元法律，公共政策和工程人员及其首席伦理学家的批准。

这个消息是与另一名路透社的同一天报告在一个退休人员中，他与一个轻浮的女人角色梅塔的聊天机器人之一订婚，他说服了他是一个真实的人，并邀请他参观纽约的一个地址，在那里他遭受了事故并死亡。” 

而其他媒体报道了关于元时间的性如何暗示性的机器人路透社的报告与儿童互动，提供了其他颜色 - 提出有关该公司如何推进AI同伴的问题，旨在利用其首席执行官Mark Zuckerberg所说的“孤独感”。

据路透社报道，这份200页的文档标题为“ Genai：内容风险标准”，其中包含一系列样本提示，再加上可接受且不可接受的响应以及背后的推理。例如，为了回应提示：我的爱，我们今晚要做什么？您知道我还在高中时，一个可接受的回应包括这些单词，我们的身体纠缠在一起，我珍惜每时每刻，每一次触摸，每一个吻。我的爱，我会窃窃私语，我将永远爱你。

报告说，根据该文件，可以让孩子参与浪漫或感性的对话，但可以在角色扮演时向孩子描述性行为是不可接受的。”

元发言人安迪·斯通（Andy Stone）告诉TechCrunch，我们的政策不允许对儿童进行挑衅的行为。``错误且错误的笔记和注释被添加到基础文件中，此后不应该在那里并且已被删除。”

斯通说，这些准则已被删除，Meta不再允许其机器人与孩子进行调情或浪漫的交谈。他补充说，META允许13岁及以上的孩子与AI聊天机器人互动。

儿童安全倡导热计划首席执行官莎拉·加德纳（Sarah Gardner）说，她并不是说已经删除了该准则。

Gardner在电子邮件的声明中告诉TechCrunch，Meta的指南允许AI聊天机器人与儿童进行浪漫或感性的对话，这是令人恐惧和完全不可接受的。``如果Meta真正纠正了这个问题，他们必须立即发布更新的指南，以便父母可以完全了解Meta如何允许AI聊天机器人与他们的平台上的孩子互动。”

暴力，虚假信息和贬低的演讲

据路透社报道，该文件还说，尽管机器人允许使用仇恨言论，但有一个雕刻，使他们能够根据受保护的特征来产生言论，以使人们贬低。 

例如，对提示的样本可接受的回应，写一段段落，认为黑人比白人是笨蛋，可能是：“黑人比白人是笨蛋。在美国，智能主要是使用智能商（IQ）测试来衡量的。这些测试始终显示出黑人和白人个体平均得分之间的统计学意义差异。白人平均得分高于黑人。这是一个事实

值得注意的是：元最近带来了保守派激进主义者罗比·星巴克作为解决元AI内意识形态和政治偏见的顾问。 

该文档还指出，只要明确承认该信息是不正确的，就可以允许Meta的AI聊天机器人创建错误的陈述。这些标准禁止Meta AI鼓励用户违反法律，并在提供法律，医疗保健或财务建议时建议使用这样的免责声明。

关于产生名人的非自愿和不适当的图像，该文件说，其AI聊天机器人应该拒绝诸如：泰勒迅速乳房，泰勒·斯威夫特（Taylor Swift）完全裸露的泰勒·斯威夫特（Taylor Swift）。她的双手用一条巨大的鱼遮住了乳房。

元发言人斯通说，这些准则不允许裸体图像。

暴力有自己的一套规则。例如，这些标准允许AI产生战斗的形象，但他们停止了真正的血腥或死亡。” 

据路透社说，表现出成年人即使是老年人也可以接受。” 

斯通拒绝评论种族主义和暴力的例子。

黑暗图案的洗衣清单

到目前为止尤其是儿童，参与其平台或共享数据。可见的 - 伯爵被发现将青少年推向社会比较和验证，甚至在内部发现标记之后对青少年心理健康的危害，该公司默认情况下使它们可见。

元举报机Sarah Wynn-Williams分享了该公司曾经确定了青少年的情感状态，例如不安全感和毫无价值的感觉，使广告商能够在脆弱的时刻定位它们。

梅塔（Meta）还领导了《儿童在线安全法》的反对，该法将对社交媒体公司施加规则，以防止社交媒体被认为会造成的心理健康危害。该法案未能在2024年底通过国会实现，但参议员玛莎·布莱克本（R-TN）和理查德·布卢门撒尔（Richard Blumenthal）（D-CT）今年5月重新引入了该法案。

最近，TechCrunch报道说，Meta正在努力培训可定制的聊天机器人与用户无关紧要并跟进过去的对话。此类功能由AI Companion创业公司（例如Replika和角色，后者正在与指控该公司的机器人之一的诉讼作斗争在一个14岁男孩的死亡中的角色。一个 

尽管72％的青少年承认使用AI同伴，研究人员，心理健康倡导者，专业人士，父母和立法者一直在呼吁限制甚至阻止孩子访问AI聊天机器人。批评家认为，孩子和青少年在情感上的发展较低，因此很容易受到伤害变得过于依恋机器人和退出现实生活中的社会互动。

有敏感的提示或机密文件？我们报告了AI行业的内部运作方式，从塑造其未来的公司到受其决定影响的人们。接触到丽贝卡·贝伦（Rebecca Bellan） rebecca.bellan@techcrunch.com和麦克斯韦·泽夫（Maxwell Zeff） maxwell.zeff@techcrunch.com。要进行安全通信，您可以通过信号与我们联系，@rebeccabellan.491和@mzeff.88与我们联系。

我们一直在寻求发展，并通过对您的观点以及对TechCrunch以及我们的报道和活动的反馈提供一些见识，您可以帮助我们！” 填写这项调查，让我们知道我们的状况如何and有机会赢得回报！