研究表明，人工智能机器人的“超个性化”特性正在吸引十几岁的男孩，他们现在用它们来进行治疗、陪伴和建立关系。
英国男性联盟对中学男生进行的一项调查发现，超过三分之一的男生表示他们正在考虑人工智能朋友的想法，并且越来越担心人工智能治疗师和女朋友的崛起。
这项研究是作为角色.ai，流行的人工智能聊天机器人初创公司，宣布全面禁止青少年与人工智能聊天机器人进行开放式对话，数百万人使用人工智能聊天机器人进行浪漫、治疗和其他对话。
英国男性联盟创始人兼首席执行官李·钱伯斯 (Lee Chambers) 表示：“我们面临的情况是，许多家长仍然认为青少年只是利用人工智能来作弊作业。”
– 年轻人更多地把它当作口袋里的助手、陷入困境时的治疗师、想要得到认可时的伴侣，有时甚至以浪漫的方式使用它。他们说的是个性化方面：它理解我，但我的父母不理解。”
这项研究基于对英格兰、苏格兰和威尔士 37 所学校的中学男孩的调查，还发现超过一半 (53%) 的男孩表示，他们认为网络世界比现实世界更有价值。
《男孩之声》报告称：“即使在应该设置护栏的地方，也有大量证据表明聊天机器人经常谎称自己是有执照的治疗师或真人，只有底部的一个小免责声明称人工智能聊天机器人不是真实的。”
“孩子们很容易忽视或忘记这一点，因为他们正在向他们认为是有执照的专业人士或真正的爱情对象倾注心血。”
一些男孩表示，他们会熬夜与人工智能机器人交谈，而另一些男孩则表示，他们发现朋友们在陷入人工智能世界后，性格发生了彻底改变。
– 人工智能伴侣根据用户的响应和提示向用户进行个性化设置。它立即做出反应。真正的人类并不总是能做到这一点，所以它所说的非常非常有效，因为它想让你保持联系并让你使用它，”钱伯斯说。
在这家成立四年的加州公司引发一系列争议之后，character.ai 宣布了这一消息，其中包括一名 14 岁少年自杀在痴迷于人工智能驱动的聊天机器人后，他在佛罗里达州度过了自己的生命，他的母亲声称该机器人操纵了他结束了自己的生命，而一名美国诉讼来自一名青少年的家庭，该青少年声称聊天机器人操纵他自残，并鼓励他谋杀父母。
用户已经能够塑造聊天机器人的角色，使他们变得沮丧或乐观，这将反映在他们的反应中。该禁令将于 11 月 25 日全面生效。
角色.ai说鉴于“人工智能和青少年不断发展的格局”，包括来自监管机构的压力，“即使内容控制工作完美，开放式人工智能聊天总体上可能会如何影响青少年”，它正在采取“非同寻常的步骤”。
时事通讯促销后
安迪·伯罗斯 (Andy Burrows) 是莫莉·罗斯基金会 (Molly Rose Foundation) 的首席执行官，该基金会以 14 岁的莫莉·拉塞尔 (Molly Russell) 的名义成立，莫莉·拉塞尔 (Molly Russell) 在在社交媒体上陷入绝望的漩涡，欢迎此举。
他说：“Character.ai 绝不应该向儿童提供其产品，除非该产品安全且适合儿童使用。”它再次承受了来自媒体和政界人士的持续压力，要求科技公司做正确的事情。”
英国男性盟友对名称中带有“治疗”或“治疗师”的聊天机器人激增表示担忧。character.ai 上最受欢迎的聊天机器人之一称为“心理学家”，在创建后一年内收到了 78,000,000 条消息。
该组织还担心人工智能“女朋友”的崛起，用户可以亲自选择在线伴侣的一切，从外表到举止。
报告指出，“如果他们与感兴趣的女孩说话的主要或唯一来源是一个无法告诉他们“不”并且对每句话都严格遵守的人，那么男孩就无法学习健康或现实的与他人相处的方式。”
– 由于缺乏与同龄人交往的物理空间，人工智能伴侣可能会对男孩的社交能力、发展关系技能以及学习识别和尊重界限的能力产生严重的负面影响。