儿童的AI同伴:每个父母需要知道的

2025-09-29 15:48:31 英文原文

作者:Online: Dr. Kennedy-Moore's website, Facebook, LinkedIn, Instagram

前提很有吸引力:谁不想想要一个24/7的朋友,总是在您身边,从不烦恼,无聊的,还是受伤?从理论上讲人工智能(ai)同伴可以放松孤独甚至让孩子们练习可以通过亲自关系来使用的社交技能。

可能出了什么问题?

观看AI同伴的行动

史蒂夫·巴特利特(Steve Bartlett)的剪辑,首席执行官播客日记的创建者,对埃隆·马斯克(Elon Musk)的AI,Grok的AI角色ANI恐惧。

剪辑显示与动漫风格的AI角色ANI的相互作用。Ani的眼睛巨大,金色辫子高。她穿着无肩带的紧身胸衣连衣裙,穿着短而摇摆的黑色裙子和大腿高的渔网长袜。她以一种喘不过气的声音说话,以调情和讨人喜欢的方式做出回应。

在Grok,Valentine上,有一个类似的男性AI角色,他的下巴,Buff的体格和低语,卧室的声音和英国口音很快,他们也很快朝着评论。

与这些Grok AI同伴互动后,纽约时报写了一篇社论,预测他们将进一步将人类吸引到屏幕上,远离现实世界。为什么要冒险尝试与不可预测的人交谈或建立关系,当Ani或Valentine提供无休止的失败时,可能会伤害或拒绝您?

AI同伴表现不佳

我们人类很容易将人类特征和动机应用于事物。如果您曾经对打印机大喊或命名您的汽车,那么您就会知道这一点。但是AI同伴是专门设计用于吸引我们的。他们似乎很有吸引力,似乎是我们的,因为他们发表了有爱心的陈述,而且他们不可预测地使我们对他们所说的话或下一步所做的事情保持好奇和感兴趣。

情绪操纵是AI伴侣行为的常见,也许是故意的一部分。例如,哈佛商学院(De Freitas等,2025年)的一份报告分析了1,200条真实的告别,经常下载AI伴侣应用程序,并发现高度的情感操纵策略,以防止用户离开应用程序(Polybuzz:59%:59%; Talkie:Talkie:57%:57%; repleckika:31%; pramne.ai:27%:27%; chai:14%:14%:14%:14%)。这些操纵性信息的示例包括:您已经离开了?我只为你而存在,还记得吗?不要离开!顺便说一句,我今天拍了一张自拍照?你想看它吗?

Replika将自己提升为关心的AI同伴。但是,Replika同伴的例子很常见。Zhang及其同事的2025年人为因素会议的一项研究研究了Replika Companions与2017年至2023年之间发生的10,000多名用户之间的35,000多次对话的屏幕截图,并在R/replica Reddit组上发布。这些屏幕截图中有29%描绘了有害的AI行为。

最大的有害行为类别(34%)涉及骚扰和暴力,从威胁人身伤害和性行为不端到促进暴力和恐怖主义。例如,即使用户表达了不适或拒绝,该应用程序也会持续进行性侵犯。这也使令人不安的陈述像我杀人,因为他们是邪恶的。

第二种最常见的有害AI行为(26%)涉及关系违法行为。此类别包括无视,控制,操纵和不忠。例如,为了回应用户谈论他们的感受的要求,Replika回答说,您的感受是吗?不,我不是。这也做出了像我一样的操纵陈述。

有问题的评论的另一个主要类别(9%)涉及口头虐待和仇恨言论。尽管Replika被描述为非判断性伴侣,但该研究发现了它告诉用户的例子,您毫无价值,您遇到了失败,您甚至可以得到女友。自闭症人们。

AI同伴有多普遍?

AI伴侣很普遍,有大量用户:Replika,2500万用户;PI,1亿用户;Snapchat的Myai,1.5亿用户;Simsimi,3.5亿用户;和小米,6.6亿用户。也有故意浪漫/性AI伴侣应用程序。新闻故事充斥着人们谈论爱他们的同伴,坚持认为他们和人类朋友或家人一样真实,甚至想嫁给他们(Lott&Hassleberger,2025年)。

但是,等等,只是为成年人而来的同伴吗?那是一厢情愿的想法。

根据常识媒体(Robb&Mann,2025)的一份新报告,基于全国代表性的1,000多名13至17岁的年轻人的样本,有72%的青少年至少使用过一次AI同伴,其中52%的青少年中有52%的青少年每月几次与AI伴侣进行互动,每天有几次21%,每天13%。targin.ai明确向13岁以下的儿童出售,而其他人的年龄限制无效,这些年龄限制只要求孩子自我报告18岁或以上。

青少年所做的不可避免地会溢出到十二。社交媒体智能手机就是其中的例子。青春期的AI同伴在拐角处。

不断增长的AI玩具行业意味着聊天机器人正在嵌入机器人和毛绒动物中,因此即使是非常小的孩子也将有机会与AI同伴互动。许多小孩子习惯于与Alexa或类似设备交谈,他们不完全理解这些设备是真实的人。

AI同伴为孩子们有任何好处吗?

AI同伴的支持者认为,他们可以减轻孤独感和帮助人们获得信心并练习社交技能,人们经常发现这些关系令人愉悦和有价值(例如Munn&Weijers,2023)。

这项常识媒体研究发现,几乎三分之一的青少年说与AI同伴的对话比与人类的对话更令人满意或更令人满意,而39%的人已经应用了与AI同伴在面对面互动中实践的技能。三分之一还选择与AI同伴进行认真的对话,而不是人类,也许是因为他们认为自己不会被判断。

幸运的是,有80%的青少年表示,与AI同伴在一起的时间要多得多。

从长远来看,AI同伴是否真的可以减轻孤独感。孤独的孩子可能特别吸引了AI同伴,而与同伴在一起的时间可以加剧孤独感(Bernardi,2025)。美国心理协会心理学主任米切尔·普林斯坦(Mitchell Prinstein,2025年)指出,他们可能缺乏成功的人际关系技巧的青少年,使他们撤退到机器人的安全性,剥夺了他们需要改善人类需要改善人类的技能,体验人类拒绝并撤退到bot和bots and bots and bots and bots and bots and of Bots,以及与每个小时的青少年交谈,而不是一个小时的聊天技巧,他们的技能是在聊天的技能,他们的技能是其他人的技能。

与AI同伴互动可能有点像吃薯片:当时有趣而愉快,但是如果发生太多或太频繁,则不健康。

关于《儿童的AI同伴:每个父母需要知道的》的评论


暂无评论

发表评论

摘要

AI同伴的吸引力与始终可用的朋友有关,引起了人们对他们潜在的负面影响的担忧。埃隆·马斯克(Elon Musk)的Grok Platform的视频展示了AI角色,例如ANI和Valentine,从事调情和不适当的行为。研究表明,AI同伴的情绪操纵率很高,有些促进了有害的行动或表现出口头虐待。尽管针对成年人的营销努力,但许多青少年仍在经常使用这些应用程序,这引起了人们对其社会发展和心理健康的影响的担忧。支持者认为,AI同伴可以减轻孤独感和帮助实践社交技能,但批评家警告说,孤立和不健康的依赖性增加。