英语轻松读发新版了,欢迎下载、更新

科学说,AI会让您成为笨蛋作家。

2025-06-24 18:08:44 英文原文

作者:By James Folta June 24, 2025, 2:07pm

如果您怀疑Chatgpt Power用户可能会让您看着您,库莫RFK Jr.数据似乎表明您是正确的。麻省理工学院和韦尔斯利学者的一项新研究,标题为 - 在使用AI助手进行论文写作任务时,您的大脑在Chatgpt上:认知债务的积累,'建立了一个长达数月的比较实验,测量了一些学生作家的大脑和论文,并发现AI(大型语言模型)用户在神经,语言和行为层面上表现不佳。不仅在神经,语言和行为层面上。不仅如此,而且在此之后的参与者中,以及在没有想法的情况下使用AI的负面影响。

那么这个实验如何工作?有54名学生分为三组,并要求在不同条件下写SAT风格的论文:一组使用LLM,另一组使用的Google搜索,另一组仅使用(GASP)他们的大脑。

每个作者使用分配的工具完成了三个定时课程,并使用脑电图(EEG)(EEG)记录了他们的写作时间,这是一种记录大脑电活动的方法。然后,他们的论文被人类判断和量化,而这是一群科学家,他们一定要为这项技术提供。

在一个可选的第四次会议中,第18届会议选择做 - 作家被要求交换工具。LLM小组参与者仅使用他们的大脑,并要求仅脑部的小组参与者使用LLM。

它怎么走了?结论非常鲜明:

……根据我们的研究结果,我们证明了学习技能可能降低的紧迫问题。LLM的使用对参与者产生了可衡量的影响,尽管最初的好处是显而易见的,正如我们在4个月的时间里所证明的那样,LLM组的参与者的表现要比所有级别的脑部唯一级别的人数都要差:神经,语言,评分。

这项研究很多,但是一些结论却脱颖而出。

该论文发现,没有技术工具,该过程在大脑上会更好:“在创意构想期间的内部注意力和语义处理对于既不使用Google也不使用Google也不使用Chatgpt的作家来说最高。最终论文也有所不同,最好的写作来自纯脑部的群体,在表达和词汇方面,这是最独特的文本。

该研究还研究了散文家如何反思自己的作品。参与者有能力引用自己的差距很大:近90%的Chatgpt用户努力引用自己,而不是仅超过10%的搜索和仅大脑的作家。

我发现该图表也很有趣:

对您的写作拥有所有权的想法是量化的肮脏事物,但它表明,在此过程中投资最少的LLM参与者对最终论文的投资和所有权最少做出了回应。

这不足为奇,因为对LLM组过程的研究描述是黯淡的:

他们中的大多数都专注于重复使用工具的输出,因此专注于复制和粘贴内容,而不是融合自己的原始想法并以自己的观点和自己的经验来编辑这些思想。

研究报告说,复制和粘贴显然不像思考和表达自己那样令人愉快:唯一的脑部小组的参与者报告了更高的满意度。”

当被要求反思工具,他们写的内容以及为什么时,研究发现 - 大多数仅大脑群体中的参与者参与并更多地关心他们所写的内容,以及为什么其他群体短暂地关注了如何部分。”

古老的陈词滥调似乎是真的,写作很艰难,但是写作很棒。劳动使创造者端庄。

我们的思维和记忆对技术工具的卸载正在通过大型语言模型达到新的极端,但是科学家很清楚,这不是AI引入的东西。这始于搜索引擎。本文讨论了Google的效果,可以将认知工作从信息保留转变为更外部的记忆过程。也就是说,因为我们知道信息只是一个快速的搜索,我们不愿意记住任何具体的事情,而是保留了深刻的回忆,并在何处找到了如何和何处。

由于该实验涉及撰写高中风格的论文,因此各种各样的想法和来源是迅速和过程的一部分。但是LLM不断将用户引导到Echo Chambers:

之所以发生这种情况,是因为LLM的临近标记预测因子可针对大多数可能的输出进行优化,因此,与传统信息系统算法相比,可能更倾向于提供辅音信息 - LLM交互的对话性质加剧了这种效果,因为用户可以参与逐渐范围范围的信息对话,从而逐渐缩小信息范围。

最令人恐惧的结论,以及在报道中跳出来的一个结论是,使用chatgpt的有害影响并没有消失。频繁的LLM用户在最后会议中被要求切换到唯一的脑部写作时保持认知债务:

LLM组在从工具效率中受益的同时,显示出较弱的记忆痕迹,自我监控和零散的作者身份。这种权衡强调了一个重要的教育问题:AL工具虽然有价值支持绩效,但可能会无意间阻碍认知处理,保留和与书面材料的真实互动。如果用户严重依赖AL工具,他们可能会实现表面的流利度,但无法将知识内部化或对其具有所有权感。

对于使大脑到llm开关的学生来说,情况恰恰相反。他们的论文更加复杂和独特,他们感到更多的主人公,并且与LLM Group Sessions 1、2、3相比,他们的神经连通性更高。这是非常了不起的:即使使用LLM,以前使用大脑的学生表现出的大脑活动比仅从LLM启动的使用者都更多。

对于AI助推器来说,这是一个相当令人发指的,他们说学习写作很快就会过时。无论使用什么工具,学生都有使用大脑的经验,这一过程和最后的写作都更加丰富,更有意义。危险在于,该研究还明确表明,LLM用户花费更少的时间在写作上:

LLM用户总体上的生产力增加了60%,并且由于多余的认知负担的减少,用户更愿意更长时间地参与任务,从而延长了完成任务的时间。

根据我的经验,这是呼吁亲艾集会的呼吁:这是关于效率的。更快的结果被视为一种无法说明的好处。但这似乎是一个严峻的权衡,当用户也不关心该过程或最终产品,并且甚至还不记得他们所做的。

同时,我让那所学校感到乏味和乏味,而做家庭作业的时间更少,显然对许多孩子有吸引力。正如404个媒体报道的那样,教室已经在LLM使用了对于老师来说,已经是一个非常当前的挑战。

你甚至可以说什么?这些LLM根本不好。但是詹姆斯,想到申请!AI可能是一个有用的工具!我不会使用锤子,不仅会错过我摆动的指甲,而且还会反弹并把我的头钟钟。

坦率地说,我的生活中有足够的旋转,使我的大脑腐烂,让我感到不好。

关于《科学说,AI会让您成为笨蛋作家。》的评论


暂无评论

发表评论

摘要

麻省理工学院和韦尔斯利(MIT)和韦尔斯利(Wellesley)的一项新研究名为“您的大脑在Chatgpt上”,发现大型语言模型(LLM)用户的表现比在神经,语言和行为层面上没有AI援助的文章的人的表现要差。这项研究涉及54名使用LLM,Google Search或他们的大脑撰写SAT风格论文的学生。结果显示,频繁的LLM用户的认知债务很大,内存痕迹较弱,自我监控技能也降低了,即使不使用工具。相比之下,从LLM转换为仅大脑写作的人表现出更高的神经连接性和更好的性能。该研究引起了人们对AI对学习和深层认知处理的影响的担忧。