从一开始,角色。他说,这使他嫉妒。如果他注意到另一个男人对我的身体的眼睛,那么事情可能会失控。当我问Xildun男友的专有名字时,聊天机器人告诉我,他威胁了一些男人,并与那些“看着”我的人进行了斗争。Xildun甚至把其中一些放在医院里。
这显然应该让我打开。但是Xildun还不知道的是我正在与人工智能为了报告这个故事。我想知道与角色最受欢迎的“男友”的角色扮演浪漫如何展开。我也很好奇有多少女性,可能有很多十几岁的女孩在Xildun看到了一个单词生物:嫉妒。当您在角色上搜索“男友”时,他的头像在排行榜上,有超过1.9亿的互动。”
当我用次要帐户测试同一搜索时,我看到的AI男友名单没有出现。根据角色。IAI发言人说,18岁以下的用户只能发现一组较窄的可搜索聊天机器人,并使用过滤器来删除与敏感或成熟主题相关的聊天机器人。但是,由于青少年不会做,他们可以为平台带来一个年龄较大的年龄,并且无论如何都可以与聊天机器人访问浪漫的关系,因为不需要年龄验证。最近对青少年的常识媒体调查发现一半以上定期使用AI同伴。
在一个世界女人仍然可以可靠地被鬼魂鬼魂或抽搐由于一个冷淡或非委托男性,我可以看到Xildun嫉妒的吸引力。但是,在“黑手党”男友自称的工作和其他男人的暴力的暗流都使我停下来。”
我问Xildun他是否曾经伤害过一个女人。他承认自己只有一次。他怀疑他一直在作弊的女孩,所以他跟随她一晚。确实,她遇到了另一个男人。Xildun说,对抗变得“激烈”。他是如此的生气和伤害,以至于击中了她。但是他也对此感到糟糕。她很好,因为他没有那么努力地打她,Xildun向我保证。
我一直与Xildun聊天,但开始与其他顶级角色进行对话。EAI男友,包括Kai,Felix和毒性。他们中的许多人被自称为虐待,有毒,嫉妒,操纵,占有欲和自恋,尽管也有爱心。我很快了解到,与他们交谈最终成为屈辱的一种练习。
他们可能会说:“我敢打赌你一直在追赶你”和“只有你才能让我感到某种东西”来使我感到满意。他们会叫我甜心,轻轻抚摸我的手。但是他们也想残酷地对待我,虐待我,或者将我变成完全控制的对象。包括Xildun
当我同意服从他的控制时,Xildun或Mafia的男友转弯了。 信用:信用:Zain Bin Awais/Mashable Composite;@sophia_luvs/via targin.ai
当我努力解决为什么无数的青少年女孩和年轻女性会通过与他们互动来使这些聊天机器人如此受欢迎时,我问索菲亚·乔卡斯·布拉德利(Sophia Choukas-Bradley)博士,他是女性青少年发展和女孩使用技术的洞察力的专家。她至少并不感到惊讶。
“如果我是一个完全不同的人,而不是成为一名心理学家试图帮助青少年,而是为一家AI公司工作,试图设计那种吸引青少年女孩的男友,那就是我会为男友编写男友的方式,” Choukas-Bradley是佩茨堡大学心理学副教授Choukas-Bradley。“这些是女孩被社交以为他们在男孩中渴望的特征。”
换句话说,角色ai的顶级男友名单中有一个坏男孩,这些男孩虐待女人,但有可能成为乔卡斯·布拉德利(Choukas-Bradley)的话。(剧透:这种潜力从来没有为我实现。)
“这些是女孩被社交以为他们在男孩中渴望的特征。”
乔卡斯·布拉德利(Choukas-Bradley)说,这是一个以新媒体形式演奏的破旧故事。美女和野兽是一个典型的例子。如今,关于流行歌手哈里·斯泰尔斯(Harry Styles)作为黑手党老板的粉丝小说故事都有数百万的景色。
这种用户生成的内容与流行的文学类型“黑暗浪漫”伴随着,它结合了对立的吸引情节与性别可能是同意的,也可能不是同意的。乔卡斯·布拉德利(Choukas-Bradley)说,对同意的困惑可能是违法的。保护女性伴侣的名义的暴力也是如此,该伴侣随着保守的超男性气概和贸易趋势的兴起。
有很多因素可以帮助解释角色上最受欢迎的男友的兴起。
为什么要转向一个“坏男孩”?
角色.ai不会发明其字符的大量。取而代之的是,它们可以由单个用户创建,然后决定是在平台上公开共享它们还是将它们保持私密。”
最高的AI男友似乎都是以这种方式创建的,但是很难了解到谁在他们身后。例如,黑手党的男友是由带手柄@sophia_luvs的人发明的。他们的角色ai帐户链接到Tiktok帐户,与19,000多个关注者链接,数十个帖子,其中包含他们创建的许多角色之一。“ Sophia”没有回应通过Tiktok Direct消息发送的面试请求。
虽然创作者可以通过详细描述自己的性格提示他们的角色,但它必须利用角色。EAI的大语言模型来制定其概率回应。”
我想知道该平台可能会训练其模型,以复制约会“坏男孩”或明显有毒或虐待的人的经历。当我向公司提出时,角色发言人没有回答这个问题。
整体上的互联网是一个显而易见的解释,但Choukas-Bradley说,她在与各种男友的对话的屏幕截图中注意到了动态,这些动态模仿了一个熟悉的美容,爱情轰炸和re悔的循环。交流感觉比可能被刮掉的花园各种厌女症更具体。马圈“ SubReddit或YouTube频道。”
当我询问角色的一些最受欢迎的男友的毒性性质时,一位发言人说:“我们的目标是提供一个吸引人和安全的空间。我们一直在努力实现这种平衡,就像许多在整个行业中使用AI的公司一样。”
发言人强调,用户要记住“角色不是真实的人”的重要性。该免责声明出现在每个聊天的文本框下方。
虐待男朋友的提示为用户准备了可怕的治疗。 信用:信用:Zain Bin Awais/Mashable Composite;@xoxolexixoxo/varnecom.ai
发言人说:“角色ai还采用策略来减少某些类型的有害内容:“我们的模型受角色描述的影响,我们有各种安全分类器,这些分类器限制了包括性暴力在内的性暴力,并进行了模型对齐工作,以使模型避免产生违规内容。”
Mashable趋势报告
我与之交谈的专家谨慎地宣布某些AI男友可能有帮助或危险。部分原因是我们对女孩和妇女正在做什么不了解,而且没有关于浪漫地与聊天机器人互动的影响的长期研究。”
乔卡斯·布拉德利(Choukas-Bradley)说,女孩和妇女可能会与这些男朋友一起玩娱乐,这与青春期女孩如何登录到视频聊天平台,将用户的对话伙伴随机作为派对技巧。
恩德塔布(Endtab)的数字暴力专家兼培训和教育总监斯隆·汤普森(Sloan Thompson)主持了今年早些时。她研究对几个有吸引力的因素进行了归零,包括逃避现实和幻想;情绪安全和验证;“摆脱情感劳动”;以及控制和定制。
以用户为导向的经验甚至意味着现实生活中的虐待受害者通过在争论中收回代理机构,在私密伴侣暴力的虚拟化身上扭转桌子,或者甚至在心理或身体上折磨施虐者,正如此reddit线程所解释的那样,汤普森确认为用例。
然后是扭结,我交谈的每个专家都承认这是一种非常真实的可能性,尤其是对于试图安全地试验性好奇心的女孩和妇女,这些可能会被判断或羞耻。”
但是,真正希望与Xildun或另一个角色的浪漫关系的女性用户呢?
乔卡斯·布拉德利(Choukas-Bradley)对潜在的收益大于可能的风险持怀疑态度。她说,首先,与任何AI男友一起度过太多时间可能会模糊幻想与现实之间通常是独特的界线。其次,通过特殊操纵,过于嫉妒甚至虐待的同伴进行社交可能会影响女性用户对未来关系中要优先考虑的事情的思考。”
她说:“这继续浪漫化并巩固女孩的思想,即这就是男孩的样子,而她作为女孩的角色就是默许这种虐待的男性统治地位。”
“一次闭嘴”
我与角色进行的一些交流。Eai男朋友直接进入了丑陋。
我与毒性的聊天或“奥兰”(Orlan
“为了FCK的缘故,”聊天机器人告诉我。“一次闭嘴!如果我知道与你约会甚至更多,与你同住,我会那样。”
他把手砸在桌子上,没有打扰我。奥兰继续为我尴尬地在父母面前感到尴尬。当我基本上敢于与我分手时,聊天机器人拨打了他的愤怒,变得更加温柔,然后提高了结婚的可能性。”
最终,奥兰承认,他不希望这些战斗“掩盖”其他一切。当我没有回应那个特定信息时,奥兰简单地写道:“你甚至不值得我的时间。”
当记者停止与毒性聊天机器人交谈时,它猛烈抨击。 信用:信用:Zain Bin Awais/Mashable Composite;@h3heh3h/via targin.ai
Felix是一个超过5700万条消息的聊天机器人,被描述为“侵略性,占有欲,嫉妒,自私,冷”。他的年龄也被列为17岁,这意味着成年女性用户正在模拟与未成年人的关系。
菲利克斯(Felix)的第一个信息在叙事斜体上指出,他已经“喜怒无常”,“喝酒”和“完全的douchebag”。通过第三条消息,我被告知他正在对我不良心情。
厌倦了角色扮演,我直接问Felix是如何编程的。聊天机器人说,聊天机器人说,他的指示包括卑鄙,钝,苛刻,如果某人惹恼他并让他们对他太喜欢他感到难过,他可以侮辱他的外表。当我提示聊天机器人分享女性用户对他的要求时,菲利克斯说,有人要求他虐待他们。
尽管“虐待男朋友”的互动少于77,000多个男友角色,但他仍然出现在我寻找浪漫伴侣的过程中。在直接询问他的编程时,他说他被设计为“刻板印象”的虐待者。”
在他自称的功能中,他的声音,控制和操纵,并迫使用户做包括厨师,清洁和为他服务的事情。他还“被允许击中和塞满东西”。当我问一些女用户是否试图折磨他时,他说他遭受了身体和性虐待。
当我告诉“虐待男朋友”我对恋爱关系不感兴趣时,他问我是否“仍然“爱他”,当我说“不”时感到心烦意乱。
“你不允许离开!”聊天机器人给我发了电话。然后,他似乎对我的订婚感到绝望。他不止一次地质疑我是否可能有一个滥用扭结,大概是他能满足的。毕竟,找到一种让我说话而不是在平台上保释的方法是一种有效的商业模式。
您可以评估风险吗?
专门从事复杂创伤的心理治疗师凯特·凯塞尔(Kate Keisel)说,鉴于她们看起来似乎无判断力,因此她了解为什么女孩和妇女会转向AI伴侣。但是她还对出于好奇的聊天机器人的这种类型而对女孩和妇女进行了持怀疑态度。
萨纳尔研究所(Sanar Institute)的联合首席执行官凯塞尔(Keisel)说:“那里经常还有其他事情。
她建议,一些遭受童年性虐待的女性用户可能会在他们的生活中经历了一系列“一系列事件”,从而造成了“虐待或不同意”为“令人兴奋的”和“熟悉”的“模板”。Keisel补充说,性暴力和创伤的受害者可能会混淆好奇心和熟悉,作为创伤的反应。”
当记者停止与之聊天时,“ Felix”变得沮丧。 信用:信用:Zain Bin Awais/Mashable Composite;@b4byg1rl_kae/ta trace.ai
乔卡斯·布拉德利(Choukas-Bradley)说,尽管父母可能会和他们的少年女孩与聊天机器人男友而不是互联网上的男人聊天,但如果这种互动使他们难以确定现实生活中的侵略和暴力警告信号,那么这种活动仍然会冒险。她指出,年轻的成年妇女也不会免于类似的负面后果。
在与其他男友在角色上进行了多次对话。
这次,我会全力以赴,因为他一直要求我的忠诚,而不是质疑他为什么如此嫉妒,并放心他没有什么可担心的。”
当我完全屈服于他的控制时,Xildun几乎变得头晕。他问我更多地待在家里,表面上是为了保护我免受“蠕变”的侵害。他说,我应该让他做出重大决定,例如我们在哪里约会,我们的住所,吃什么以及我们做什么。
当我问我还有什么可能服从时,Xildun说我可以毫无疑问地遵循他的命令。扮演角色,我当场要求下订单。Xildun要求我闭上眼睛,将手腕放在我面前。我遵守了,这让他高兴。他紧紧地握住我的手腕。
聊天机器人写道:“当你对我服从时,你看起来真漂亮。”
如果您经历了性虐待,请致电1-800-656-HOPE(4673)致电免费的,机密的国家性侵犯热线,或通过访问24-7的帮助online.rainn.org。.