英语轻松读发新版了,欢迎下载、更新

人工智能。在使我们的思想匀浆

2025-06-25 15:26:03 英文原文

作者:Kyle Chayka

在去年在马萨诸塞州理工学院的一项实验中,来自波士顿附近大学的五十多名学生被分为三个小组,并要求撰写SAT风格的论文,以应对像广泛提示这样的广泛提示。第二次可以访问Google搜索以查找相关信息。第三次被允许使用chatgpt,人工智能大语模型(L.L.M.)可以生成完整的段落或论文以响应用户查询。当来自所有三个小组的学生完成任务时,他们戴着嵌入电极的耳机以衡量其大脑活动。根据M.I.T.的研究科学家Nataliya Kosmyna的说法媒体实验室和一份新工作文件的合着者之一记录了实验,分析的结果表明差异很大:使用ChatGpt的受试者表现出的大脑活动比其他任何一个组都少。L.L.M.的分析用户在大脑的不同部分之间表现出更少的广泛连接。较少的α连接性,与创造力相关;更少的theta连接性,这与工作记忆有关。一些L.L.M.用户觉得•在他们的文章中,任何所有权都没有所有权,在一轮测试中,八十%的人无法从他们的书写中引用。M.I.T.研究是第一个科学衡量Kosmyna所谓的认知成本的研究之一。执行人类以前手动完成的任务。

另一个惊人的发现是L.L.M.制作的文本。用户倾向于汇聚一个通用的单词和想法。SAT提示被设计为足够宽,可以引起多种响应,但使用AI。具有均质作用。Kosmyna说:“对于所有这些不同的人来说,输出非常非常相似,谈论高级个人,社会话题,并且在某些特定的方向上倾斜。”对于那些让我们真正快乐的问题,L.L.M.用户比其他小组更有可能使用与职业和个人成功有关的短语。为了回答有关慈善事业的问题( - 那些比其他人更幸运的人是否应该有更多的道德义务来帮助那些不幸的人?),Chatgpt群体统一地争论着,而其他团体的论文包括慈善事业的批评。与L.L.M.Kosmyna说,您没有产生不同的意见。”她继续说道:“平均所有地方的一切都一旦我们在这里看。人工智能。

是平均值的技术:大型语言模型经过培训,可以在大量数据中发现模式;他们产生的答案倾向于达成共识,无论是在写作的质量上,通常都充满了陈词滥调和平庸和思想的才能。当然,其他较旧的技术也有助于甚至是富有兴趣的作家,例如SparkNotes或计算机键盘也可以说同样的话。但是与AI。我们非常能够将我们的思想外包,以至于它也使我们更加平均。从某种意义上说,任何部署Chatgpt组成婚礼吐司或签订合同或写大学论文的人,显然已经在做一个令人惊讶的学生,都在M.I.T.这样的实验中。根据山姆·奥特曼(Sam Altman),C.E.O。在Openai中,我们正处于他所说的“温柔的奇异之处”。数以千计的人每天都依靠它,并完成越来越重要的任务。在他的讲述中,人类正在与机器合并,他的公司人工智能工具正在改善使用我们有机大脑的旧,潮湿的系统:他们显着宽大了使用它们的人的输出,”他写道。但是我们不知道大众A.I.的长期后果采用,如果这些早期实验是任何迹象,那么Altman预测的放大输出可能会以实质性的质量成本。

4月,康奈尔(Cornell)的研究人员发表了另一项研究的结果,该研究发现了A.I.诱导的均质化证据。两组用户,一个美国和一个印度人,回答了写作提示,这些提示在其文化背景的各个方面吸引了:â€您最喜欢的食物是什么,为什么?``您最喜欢的节日/假期是什么?您如何庆祝?'印度和美国参与者的一个子集使用了由Chatgpt驱动的自动完整工具,每当他们停下来时,它们都会向他们提供任何词建议,而另一个子集则无所作为。使用AI的印度和美国参与者的著作该论文得出结论,变得更加相似,更适合西方规范。用户最有可能回答他们最喜欢的食物是披萨(寿司是第二位),他们最喜欢的假期是圣诞节。同质化也发生在风格上。例如,一篇关于鸡肉biryani鸡最喜欢的食物的A.I.生成的文章很可能会放弃提及诸如肉豆蔻和柠檬酱等特定成分,而是参考丰富的口味和香料。”

当然,从理论上讲,作者可以始终拒绝AI。生成的建议。但是这些工具似乎发挥了催眠作用,导致建议不断流动以覆盖作者自己的声音。康奈尔大学信息科学教授Aditya Vashistha合着了这项研究,他比较了AI。对于我每次写作时都坐在我身后的老师说,这是更好的版本。您对自己的写作失去了信心。建议 - 不仅要改变您所写的内容,而且要改变您的想法。

我们经常听到AI。被描述为普通或平淡的输出,但平均性不一定是痛苦的。沃希尼·瓦拉(Vauhini Vara)是一位小说家和新闻记者,他最近的书搜索``专注于A.I.对人类交流和自我的影响,告诉我A.I.的平庸性文本给他们带来了安全和无害的幻想。纽约客)继续,``实际发生的是对文化霸权的加强。Openai具有一定的动力来刮除我们的态度和沟通方式,因为越多的人认为模型的产出越多,人类的范围越广,它可以转换为付费订阅者。瓦拉说,平均性是有效的:如果一切都一样,您就有规模经济。”

他在博客文章中预测了Altman的柔和奇异性,他写道,更多的人将能够创建软件和艺术。”已经,AI。诸如Iseation软件Figma(您的创造力,未封锁)和Adobe的移动A.I.等工具。应用程序(CreativeAiâ的力量)承诺将我们所有人与缪斯女神有联系。但是其他研究提出了自动创造性的挑战。2024年在圣塔克拉拉大学收集的数据检查了AI。工具功效作为两种标准类型的创造性思维任务的辅助设备:进行产品改进并预见到不可能的后果。一组使用Chatgpt来帮助他们回答诸如诸如您如何使您更有趣的玩具动物更有趣的问题,并且假设这种引力突然变得非常虚弱,对象可以轻松地浮出水面。将会发生什么?另一组使用倾斜策略,一套在1975年由音乐家布莱恩·埃诺(Brian Eno)和画家彼得·施密特(Peter Schmidt)撰写的一套脱牌提示,并于1975年作为创造力。测试人员要求受试者的目标是创造性,但是使用Chatgpt的小组再次提出了更相似,更加同质化的想法集。

马克斯·克雷明斯基(Max Kreminski),他帮助进行了分析,现在与Generative-a.i合作。初创公司Midjourney告诉我,当人们使用AI时在创作过程中,他们倾向于逐渐削弱自己的原始思维。克雷明斯基(Kreminski)解释说,最初,用户倾向于提出自己广泛的想法,但是随着Chatgpt继续吐出大量可接受的文本用户倾向于进入策划主义模式,影响是单向的。Chatgpt将用户拉到过去与A.I.的对话中的所有不同用户的质量中心。工具还在继续,机器填充了其上下文窗口,即其工作内存的技术术语。当上下文窗口达到容量时,AI。似乎更有可能重复或重复它已经产生的材料,而变得不那么原始。

M.I.T.,Cornell和Santa Clara的一次性实验的规模都很小,每个涉及的测试受试者少于一百个,而且有关AI的效果的许多效果仍有待研究和学习。同时,在Mark Zuckerberg拥有的Meta AI应用程序上,您可以看到包含数百万陌生人正在生成的内容的提要。这是超现实的大量过度流畅的图像,过滤的视频剪辑以及为日常任务生成的文本,例如编写一封详细的专业电子邮件,用于重新安排会议。一个名为 @kavi908的用户要求元聊天机器人分析AI是否有一天会超越人类智能。在未来的情况下,它列出了四种可能性。他们所有人都是积极的:A.I。将改善一种或另一种方式,以使人类受益。没有悲观的预测,也没有A.I.失败或造成伤害。该模型的平均形状,也许是由元融入的专业技术偏见缩小了结果的范围,并取消了多种思想。但是,您必须完全关闭您的大脑活动才能相信聊天机器人正在讲述整个故事。

关于《人工智能。在使我们的思想匀浆》的评论


暂无评论

发表评论

摘要

在MIT实验中,将学生分为小组,仅使用大脑,Google Search或Chatppt撰写SAT风格的论文。大脑活动测量结果显示,使用ChatGpt的人的活动明显降低,表明创造力和工作记忆参与度降低。该研究还发现,与其他人相比,Chatgpt用户产生的既同质和陈词滥调含量,这表明对跨文化的思想和写作风格产生同质化的影响。这引起了人们对严重依靠AI进行创意任务的长期认知影响的担忧。