chatgpt使我们很奇怪

前几天，当我提出一个问题时，我的家庭团体聊天点亮了chatgpt当要求进行利基搜索或计划行程时。

我的母亲，曾经是举止举止的人，她说她是一个有意识的选择，以这种方式行事。她说她是“让自己保持人类”的选择。

另一位亲人后来承认，她在婚姻中遇到了一个棘手的时刻，她一直在聊天机器人方面进行指导。

而且我忍不住诱惑要求chatgpt评估我的吸引力华盛顿邮报报道人们要求它寻求美容建议。（它说我有“强大的表现力”，然后告诉我要站直，微笑更多。）

但是我知道这不仅是我的直接圈子：chatgpt使每个人都表现得很奇怪。

作为大型语言模型成为我们数字生活的固定装置，我们与他们互动的方式揭示了一个在磁通状态的社会，在那里机器不仅模仿了人类的互动，而且会悄悄改变统治它的期望和规范。

业务内部人士与四位专业人士进行了交谈，他们与OpenAI的GPT模型等聊天机器人进行了截然不同的方式 - 社会学家，心理学家，数字礼节教练和性治疗师 - 探索AI的兴起如何改变我们彼此之间的兴趣，我们如何看待我们，我们如何看待我们自己，以及如何破坏我们自己的男性和直觉。

以来，对话以chatgpt为中心Openai的聊天机器人迅速成为AI世界的等同于Google搜索引擎的等同，但是专业人士表示，对于Meta AI，Microsoft Copilot，Anthropic的Claude或当今市场上的任何其他大语言模型，可以得出类似的结论。

社会契约的变化

数字礼节顾问和作家Elaine Swann说，随着每一波技术改变了我们的生活，社会需要适应新的社会线索。

尽管我们在很大程度上共同同意，在个人电子邮件信件中使用速记是可以使用的，并且在公开场合在扬声器上进行手机通话是无礼的，但我们仍在建立一个社交代码，以了解如何与AI机器人和代理商进行互动。

Business Insider的高级记者Kelsey Vlamis说，她开始看到与聊天机器人相关的个人生活的变化。在意大利度假期间，她说丈夫对他们的导游感到不耐烦，有意识地不得不避免打扰问题：“因为这是他试图学习一些东西时他与Chetgpt交谈的方式。”

当然，他不得不退缩，弗拉米斯补充说：“实际上，这不是我们如何与人类交谈。”

由于AI获得了势头，社交媒体充满了帖子，询问配偶使用Chatgpt向其伴侣写一张爱的纸条，或者使工人依靠AI代理商来写一张爱填写工作申请代表他们。

陪审团仍在 这样的情况。

Swann说：“ AI肯定现在更聪明，这对我们来说很棒，但与此同时，我们必须非常小心，以至于基本上不能代替我们的判断或同理心。”“我们必须谨慎对待它，而不仅仅是利用它作为我们的唯一信息来源，而且还要确保我们对自己的使用方式贴上了镜子，并由我们认识和关心的人们进行建议。”

斯旺说，维持我们的尊重基线水平 - 不仅是彼此的，而且我们周围的世界也是关键。

后Openai首席执行官Sam Altman她在4月下旬在X上发布，该公司处理诸如“请”和“谢谢”之类的精美的款项要花费“数千万美元”，她强调，公司强调，公司可以使处理这些陈述更具成本效益，而不是让用户停止礼貌。

斯旺说：“这是我们为自己创造的世界。”“而且AI也应该理解，这就是我们彼此交谈的方式，因为我们正在教书将其还给我们。”

阿尔特曼（Altman）表示，针对Chatgpt的礼貌要求使用的大量资金是“花费大量的”。

恶化的偏见

不列颠哥伦比亚大学社会学副教授劳拉·纳尔逊（Laura Nelson）说，由于世界上最受欢迎的聊天机器人是由美国公司创建的，由美国的程序员撰写，并主要对用英语写的内容进行培训，所以他们在西方文化中经常看到了深深的偏见。

尼尔森说：“要记住，这些算法基于培训数据是一种特殊的世界观，这一点非常重要。”

因此，如果您要求Chatgpt画一盘早餐的照片，它将想起典型的北美食物：培根，鸡蛋，香肠和吐司。它将一瓶葡萄酒描述为“经典和周到的礼物”，尽管在许多文化中，酒精很少被消耗，一瓶会使色调聋哑。

尽管这些示例相对无害，但机器人也加剧了更加阴险和潜在破坏性的偏见。

一项在心理学和营销上发表的2021年研究发现，人们更喜欢AI在其设备中被拟人化为女性，就像大多数流行文化表示一样，因为它使该技术看起来更人性化。但是，该研究发现，偏好可能无意中巩固了妇女的客观化。也有很多的 报告那个孤独（大多数是男性）可能会在口头上虐待或降级其AI同伴。

商业内部人士先前报道说，人工智能也充满了歧视性偏见由于该数据已经训练，尤其是Chatgpt显示筛选时种族偏见为了工作，过度选择亚洲妇女候选人和挑战黑人男性。

尼尔森说，尽管这些偏见可能不会立即改变我们的行为，但它们会影响我们的思想和我们作为一个社会的运作方式。而且，如果在我们的决策中实施了ChatGpt或其他AI应用程序，无论是在我们的个人生活，在工作场所还​​是在法律层面上，它将具有我们甚至还没有考虑过的广泛效果。

尼尔森说：“毫无疑问，人工智能将反映我们的偏见 - 我们的集体偏见。”“但是有很多人与这些机器人进行互动，我们没有数据来暗示全球趋势是什么，或者它将带来长期的影响。要解决这个问题是一件棘手的事情。”

在很大程度上没有追踪的社会转变

关于AI引起的社会转变的具体数据很难获得，但是技术背后的公司知道某物正在发生。他们中的许多人都有专门的团队来弄清他们的技术对用户的影响，但是他们公开可用的发现并没有像典型的科学研究那样进行同行评审。

Openai宣布最近更新GPT-4O模型打了打ic。该公司在新闻稿中说，这比先前的模型“明显更多”。尽管它通过了Openai的自称“ Vibe检查”和安全测试，但他们在意识到其编程以取悦用户可以激发愤怒，敦促冲动行动或以不打算的方式加剧负面情绪的节目后将其滚回去。

该公司宣布的公告强调，Openai敏锐地意识到，各种AI应用程序都可以从线获得动力数字浪漫合作伙伴到研究伙伴到礼物精灵也开始对人类的情绪和行为产生蔓延的影响。

当发表评论时，OpenAI的发言人指导了该公司最近关于GPT-4O中的无ho的言论，以及对情感幸福感的早期研究。

Openai的研究与18岁以上的用户进行，发现 与聊天机器人的情感互动很少见。但是，大型用户更有可能报告与机器人的情感联系，而与Chatgpt进行个人对话的人更有可能报告孤独的感觉。

拟人发言人说，该公司拥有一个专门的研究团队，社会影响， 就是 分析Claude使用情况，如何在工作中使用AI以及研究AI模型的价值。

Meta和Microsoft的代表没有回应置评请求。

行为风险和奖励

达特茅斯技术与行为健康中心精神病学副教授尼克·雅各布森（Nick Jacobson）进行了首次尝试使用生成AI向临床人群进行心理治疗的试验研究。他的研究发现，精心编程的聊天机器人可以成为患有抑郁症，焦虑和饮食失调的人的有用治疗工具。

研究中的患者参与与亲自治疗的竞争相媲美，他们的症状严重程度显着降低，并且在使用与人类提供者相同的测试进行测量时，研究中的患者报告说他们与他们的症状相吻合治疗性聊天机器人与人类治疗师的强度相似。

雅各布森说：“人们真的在与机器人建立这种牢固的联系。”这是建立生产性治疗关系的关键因素。但是，大多数机器人都没有按照雅各布森（Jacobson）的照顾和精确度进行编程，因此可以使用没有技能以有效的方式来满足用户的情感需求的AI来建立情感纽带。

“几乎每个基础模型都将以深刻的方式行事不安全的心理健康雅各布森说：“以各种方式，形状和形式是完全不可接受的，”雅各布森说。“但是有很多人将它们用于治疗和诸如朴素的陪伴之类的事情，以至于这是一个真正的问题 - 我认为人们应该以比我认为的更大的谨慎处理。”

关系和性治疗师艾玛·J·史密斯（Emma J.

史密斯说：“但是，如果实际上，有些缺点是避免人类互动的一种机制，或者它使您远离外出并进入世界，”“视频游戏对很多人来说可能很好，然后有些人接管了一些人，然后他们错过了非虚拟生活，因为他们太参与了。我可以看到，这些机器人对这些机器人来说是一个问题，但是由于这是如此新，我们知道我们不知道的东西。”

虽然他的审判结果很有希望，但雅各布森警告说，他的研究中使用的大型语言模型经过了多年的精神病学领域的培训多年，与大多数在线可用的“疗法”机器人不同。

雅各布森说：“这本质上比很多人都知道的危险要多得多。”“从中可能会有很多好处，但是我们不知道，例如，当人们转向这些事情时友谊，这实际上是否增强了他们在社交环境中实践并建立人类纽带的能力，还是人们实际上会进一步撤回并取代与这些聊天机器人这些寄生虫关系的人关系？”

雅各布森（Jacobson）特别关心AI对没有老式社会规范和习惯成长的年轻人的影响。

在5月初向参议院商务委员会作证时，Altman表示，他不希望他的儿子拥有A AI时代。 最好的朋友与AI机器人结合，补充说，孩子比使用AI工具的成年人需要“更高的保护水平”。

“我们花了多年的时间专注于安全，所以这对我来说非常令人担忧，有多少人以新的方式跳入AI空间，然后运送它，”雅各布森说。“在我看来，这是不负责任的。您知道，硅谷的许多人想快速移动并破坏事情，但是在这种情况下，他们并没有打破事物 - 他们正在打破人们。”