作者:Luc Olinga
AI现在以两个速度存在。
在第五齿轮上运行的是创作者的速度。像山姆·奥特曼(Sam Altman),埃隆·马斯克(Elon Musk)和马克·扎克伯格(Mark Zuckerberg)这样的人,他们正在竞争比人类更聪明的机器。超级智能。Agi。也许这是一个梦。也许它是一种技术兄弟的幻想。无论哪种方式,它都会快速移动。
然后,为我们其余的人跑第二档。数以百万计的人悄悄测试AI在日常生活中可以做什么,撰写电子邮件,汇总文档,翻译医学测试。而且,越来越多地使用AI作为治疗师。
那是我最近所做的。尽管我不愿意与聊天机器人分享个人细节,但我还是决定与埃隆·穆斯卡(ElonMuské)的公司XAI的大型语言模型进行交谈,这是我一生中最激动人心的事情之一:与母亲的关系。
我四十多岁。我是父亲。我住在纽约。我母亲住在喀麦隆的Yaound©,近6,000英里。但是,她仍然想指导我的一举一动。在我做出重要决定之前,她想咨询。她期望影响。当她不在循环中时,她变冷了。
我花了多年的时间试图向她解释一个成年男子,能够做出自己的选择。但是我们的对话通常以她生气的结束。她和我兄弟一样。
因此,我打开了Grok并打字了类似的内容:我与母亲的关系令人沮丧和令人窒息。她想在所有事情上发表意见。当她没有了解某件事时,她就会在情感上关闭。
格罗克立即以同情心做出回应。然后它诊断出这种情况。然后建议。
最初让我震惊的是,格罗克承认了文化背景。我住在美国,母亲住在我长大的喀麦隆。它构成了我们这样的动态:
在某些非洲背景下,例如喀麦隆,家庭义务和父母的权威很强大,植根于集体主义和长者甚至指导成年子女的传统。
然后,它与我的美国生活:在美国,个人自主权是优先的,这与她的方法发生了冲突,使她的行为对您感到控制或虐待。
那是:â€â€usuvery。我从未使用过一个词。格罗克把它放在我的嘴里。它正在验证,但也许太验证了。
与人类治疗师不同,Grok从未鼓励我自我反射。它没有提出问题。它没有挑战我。它把我当作受害者。唯一的受害者。那是它与人类护理急剧分歧的地方。
在Groké的建议中,有熟悉的治疗技术:
设置边界。
承认你的情绪。
给您的母亲写一封信(但不要发送:
在信中,我被鼓励写信:â€我释放您的控制权并受到伤害。
问题不是建议。这是语气。感觉就像格罗克(Grok)试图让我开心。它的目标似乎是情感上的缓解,而不是内省的。我参与其中的越多,我意识到的越多:Grok is not Is to挑战我。它在这里验证我。
我见过人类治疗师。与Grok不同,他们没有自动将我构成受害者。他们质疑我的模式。他们挑战我探索为什么我一直在情感上不断到达同一地方。他们使故事复杂化。
有了Grok,叙述很简单:
你受伤了。
您应该得到保护。
在这里如何感觉更好。
它从未问过我可能会缺少什么。它从未问过我如何成为问题的一部分。
我的经验与最近的研究斯坦福大学,这警告说,AI的心理健康工具可以提供错误的舒适感,同时缺少更深层次的需求。研究人员发现,许多AI Systems•``过度病态化或诊断不足,尤其是在响应来自不同文化背景的用户时。
他们还指出,尽管AI可能会提供同理心,但它缺乏真正的专业人士的问责制,培训和道德上的细微差别,并且可以增强鼓励人们陷入一种情感身份的偏见:通常是受害者的情感身份。
那么,我会再次使用Grok吗?
诚实地?是的。
如果我的一天糟糕,我想要某人(或某种东西)让我感到不那么孤独,那么Grok会有所帮助。它为挫败感提供了结构。它把话语贴上了感情。它有助于承担情绪负担。
它是一种数字应对机制,一种聊天机器人离合器。
但是,如果我正在寻找转型,而不仅仅是安慰吗?如果我想对救济而实现,那么责任责任?不,Grok不够。好的治疗师可能会挑战我打破循环。Grok只是帮助我在其中生存。