直到几年前，克里·罗德里格斯 (Keri Rodrigues) 才开始担心她的孩子可能会如何使用聊天机器人。她得知她最小的儿子正在他的圣经应用程序中与聊天机器人互动，他正在向它询问一些深刻的道德问题，例如关于罪的问题。

她希望儿子能和她进行这样的对话，而不是通过电脑。“生活中并不是所有事情都是黑白分明的，”她说。“有灰色的人。作为他的妈妈，我的工作就是帮助他驾驭并度过它，对吗？”

罗德里格斯还收到了全国各地家长的来信，他们担心人工智能聊天机器人对孩子的影响。她是总裁全国家长联盟，倡导儿童和家庭。她说，许多家长都在关注自称是孩子最好朋友的聊天机器人，鼓励孩子告诉他们一切。

心理学家和网络安全倡导者表示，家长的担心是有道理的。他们说，延长聊天机器人的互动可能会影响孩子的社交发展和心理健康。而且技术变化如此之快，以至于很少有保障措施到位。

影响可能很严重。根据他们父母在最近的参议院听证会上的证词，两名青少年在与聊天机器人长时间互动后自杀身亡，聊天机器人鼓励了他们的自杀计划。

但生成式人工智能聊天机器人正日益成为美国青少年生活的一部分。一个皮尤研究中心的调查发现 64% 的青少年正在使用聊天机器人，十分之三的人表示他们每天都使用聊天机器人。

“这是一项非常新的技术，”说杰森·永田博士是加州大学旧金山分校的儿科医生和青少年数字媒体使用研究员。“它在不断变化，而且还没有真正适合年轻人的最佳实践。所以，我认为现在有更多的风险机会，因为我们在整个过程中仍然是小白鼠。”

他补充说，青少年特别容易受到聊天机器人的风险，因为青春期是大脑快速发育的时期，而大脑的发育是由经历决定的。“在这个时期，青少年更容易受到许多不同的接触，无论是同龄人还是电脑。”

但儿科医生和心理学家表示，父母可以将这些风险降到最低。以下是帮助青少年安全使用技术的一些方法。

1.注意风险

一个新报告在线安全公司 Aura 的研究表明，42% 使用人工智能聊天机器人的青少年将其用于陪伴。Aura 收集了 3,000 名青少年日常设备使用情况以及家庭调查的数据。

Aura 首席医疗官心理学家斯科特·科林斯 (Scott Kollins) 表示，其中包括一些涉及暴力和性的令人不安的对话，他领导了该公司青少年与生成人工智能互动的研究。

“角色扮演是一种关于伤害他人、身体伤害、折磨他们的互动，”他说。

他说，孩子们对性感到好奇是正常的，但从聊天机器人而不是可信赖的成年人那里了解性互动是有问题的。

儿科医生永田说，聊天机器人的设计目的是与用户达成一致。因此，如果你的孩子开始询问有关性或暴力的问题，“人工智能的默认设置就是参与并强化它。”

他说，花大量时间与聊天机器人相处——进行长时间的对话——也会阻碍青少年学习重要的社交技能，比如同理心、解读肢体语言和谈判差异。

“当你只或专门与同意你观点的计算机进行交互时，你就无法发展这些技能，”他说。

并且存在心理健康风险。根据一个最近的研究非营利研究组织兰德公司、哈佛大学和布朗大学的研究人员发现，八分之一的青少年和年轻人使用聊天机器人来获取心理健康建议。

但有大量报道称，在与聊天机器人长时间互动后，个人出现了妄想症，或者所谓的人工智能精神病。加上对自杀风险的担忧，心理学家警告说，人工智能聊天机器人对青少年以及弱势成年人的心理健康和安全构成严重风险。

“我们发现，当人们与[聊天机器人]长时间互动时，事情就会开始恶化，聊天机器人会做一些他们不打算做的事情，”心理健康非营利组织 Now Matters Now 的首席执行官、心理学家乌苏拉·怀特塞德 (Ursula Whiteside) 说。例如，她说，聊天机器人“提供有关致命手段的建议，以及那些不应该做但随着时间的推移通过重复查询确实发生的事情。”

2. 参与孩子的在线生活 

永田说，与您的孩子保持开放的对话。

“父母不需要成为人工智能专家，”他说。“他们只需要对孩子的生活感到好奇，并询问他们正在使用什么样的技术以及为什么使用。”

Aura 的心理学家科林斯说，尽早并经常进行这些对话。

“我们需要与我们的孩子进行频繁、坦诚但不带偏见的对话，讨论这些内容是什么样的，”科林斯说，他也是两个青少年的父亲。“我们将不得不继续这样做。”

他经常询问他的孩子们他们在哪些平台上。当他通过自己在 Aura 的研究听说新的聊天机器人时，他还会询问他的孩子是否听说过或使用过这些机器人。

“不要责怪孩子表达或利用现有的东西来满足他们天生的好奇心和探索，”他说。

永田说，并确保保持对话的开放性：“我确实认为这可以让你的青少年或孩子敞开心扉谈论他们遇到的问题。”

3. 培养数字素养 

与孩子们谈论生成人工智能的好处和陷阱也很重要。心理学家建议，如果父母不了解所有风险和好处，父母和孩子可以一起研究杰奎琳·内西布朗大学教授，参与美国心理学会最近的健康关于人工智能和青少年健康的咨询。

“一定程度的数字素养和素养确实需要在家里进行，”她说。

永田说，对于父母和青少年来说，重要的是要明白，虽然聊天机器人可以帮助研究，但它们也会犯错误。对于用户来说，保持怀疑和事实核查很重要。

“对孩子们的教育过程的一部分是帮助他们明白这不是最终决定，”永田解释道。“你自己可以处理这些信息并尝试评估什么是真实的或不是真实的。如果你不确定，请尝试与其他人或其他来源进行验证。”

4. 家长控制仅在孩子设置自己的帐户时才起作用

Nesi 表示，如果孩子正在使用人工智能聊天机器人，他们最好在平台上设置自己的帐户，而不是匿名使用聊天机器人。

“许多更受欢迎的平台现在都有家长控制，”她说。“但为了使这些家长控制生效，孩子确实需要拥有自己的帐户。”

但请注意，孩子们可以使用数十种不同的人工智能聊天机器人。“我们确定了孩子们可以与之互动的 88 个不同的人工智能平台，”Kollins 说。

这强调了与您的孩子进行公开对话以了解他们正在使用什么的重要性。

5.设定时间限制

永田还建议设定孩子使用数字技术的界限，尤其是在夜间。

“生成式人工智能的一个潜在方面也可能导致心理健康和身体健康影响，那就是当孩子们整夜聊天时，这确实会扰乱他们的睡眠，”Nagata 说。“因为它们是非常个性化的对话，所以非常有吸引力。孩子们更有可能继续参与并有越来越多的用途。”

如果孩子过度使用和滥用生成式人工智能，Nagata 建议父母在聊天机器人上设置时间限制或限制某些类型的内容。

6. 为更脆弱的青少年寻求帮助 

内西说，那些已经在心理健康或社交技能上遇到困难的孩子更有可能受到聊天机器人的威胁。

“因此，如果他们已经感到孤独，如果他们已经被孤立，那么我认为聊天机器人可能会加剧这些问题的风险更大，”她说。

关注潜力也很重要心理健康状况不佳的警告信号，她指出。

这些警告信号包括突然和持续的情绪变化、孤立感或他们在学校的参与程度的变化。

“父母应该尽可能多地关注孩子的整体情况，”内西说。“他们在学校表现如何？他们与朋友相处得怎么样？如果他们开始退缩，他们在家里表现如何？”

她说，如果青少年远离朋友和家人，并将他们的社交互动仅限于聊天机器人，这也是一个警告信号。“他们会选择聊天机器人而不是朋友、治疗师或负责任的成年人来解决严重问题吗？

她补充道，还要寻找对聊天机器人的依赖或成瘾的迹象。“他们是否难以控制聊天机器人的使用量？就像，它开始感觉它在控制他们吗？他们有点停不下来，”她说。

内西说，如果看到这些迹象，父母应该向专业人士寻求帮助。

“与孩子的儿科医生交谈始终是良好的第一步，”她说。“但在大多数情况下，让心理健康专业人士参与可能是有意义的。”

7. 政府可以发挥作用

但是，她承认，保护儿童和青少年免受这项技术侵害的工作不应该仅仅落在父母身上。

“你知道，立法者和公司本身都有责任让这些产品对青少年来说是安全的。”

最近国会议员们提出两党立法禁止科技公司为未成年人提供配套应用程序，并要求公司负责向未成年人提供制作或索取色情内容的配套应用程序。

如果您或您认识的人可能正在考虑自杀或陷入危机，请致电或发短信 988 到达 988 自杀和危机生命线。