研究发现人工智能正在改变人类写作的风格和内容
作者:By Jared Perlo
金钱能带来幸福吗?
来自西海岸大学联盟的研究人员很好奇 100 名人类参与者会如何回答这个古老的问题,但并不是因为他们自己追求幸福。相反,研究人员想知道参与者对人工智能系统的使用可能会如何影响他们的(书面)答案。
研究小组发现,严重依赖大型语言模型 (LLM) 的用户所做出的反应与仅部分依赖 LLM 或完全避免使用它们的参与者的答案在含义上存在显着差异,这表明人工智能的大量使用除了改变写作风格之外,还改变了人类论点的实质。
“法学硕士正在将论文与人类曾经写过的任何东西分开,”法学硕士之一的娜塔莎·雅克斯(Natasha Jaques)说。该研究的主要作者华盛顿大学的一位计算机科学教授强调了依赖人工智能系统的写作的“平淡化”。“它们只是以一种非常大的方式改变了人类的文字,而且与人类本来会做的非常不同。”
这项新研究已经过同行评审并接受即将举行的研讨会在一个领先的人工智能会议,发现严重依赖法学硕士的人撰写的论文以中性回答回答幸福问题的频率比不使用人工智能或仅使用人工智能进行轻度编辑的参与者高 69%。较少使用人工智能或完全避免使用人工智能的研究参与者提交的论文对金钱和幸福之间的联系更加热情,无论是积极的还是消极的。
除了人工智能对论文含义的影响之外,研究人员还发现,对人工智能系统的严重依赖改变了用户输出的整体风格,导致他们的语言变得不那么个人化,而更加正式。
实验结束后,严重依赖人工智能的参与者报告说,他们的论文创意明显较差,而且自己的声音也较少。与此同时,与较少使用人工智能的参与者相比,这些参与者对最终输出的满意度相似,这引起了作者和外部专家对人类增加使用人工智能系统的长期影响的担忧。
“这项研究强调,法学硕士无法遵循人们的偏好,也无法个性化人们撰写论文的方式,”Jaques 说,他也是世界领先的人工智能公司之一 Google DeepMind 的高级研究科学家。“理想的法学硕士应该写出您本来会写的论文,这样可以节省您的时间。”
——它根本没有这样做。它正在写一篇非常不同的文章。”
该研究评估了 2025 年广泛使用的三种领先人工智能系统的影响:Anthropic 的 Claude 3.5 Haiku、OpenAI 的 GPT-5 Mini 和 Gemini 2.5 Flash。在最初的测试中,研究人员发现一半的参与者根本拒绝使用法学硕士,或者只是用它来查找信息而不是生成新内容。为了更好地对较大一批参与者进行分类,研究人员将 AI 重度用户定义为那些表示自己为法学硕士实验编写的文本的 40% 以上是由他们生成的参与者。
作者发现,严重依赖法学硕士的用户提交的论文中代词数量减少了 50%,这代表了向非个人语言的更大转变,其中包括更少的轶事和对人类经验的引用。
除了关于金钱对幸福影响的实验之外,这篇新论文还分析了法学硕士与人类相比编辑另一组论文的差异,并研究了人工智能的使用如何影响科学家用来判断论文是否应该被主要人工智能会议接受的标准。
为了比较法学硕士与人类编辑现有写作的方式,Jaques 和她的合作者依靠 2021 年人类撰写的论文数据库来评估法学硕士广泛采用之前发表的写作。
研究作者要求法学硕士根据原始人类编写数据集的人类反馈修改人类论文,结果发现,在相同情况下,三个领先的人工智能系统比人类编辑进行了更大的编辑,并且人工智能支持的编辑也改变了基础论文的含义。
该论文称,虽然人类编辑经常进行更改,替换单个单词,并且保留大部分原始词汇不变,但法学硕士“替换了比人类修改自己作品时更大的原始写作部分”。
“这种单词替换会导致个人声音、风格和意义的丧失,因为每个作者独特的词汇指纹都会被给定模型的首选词汇覆盖,”作者写道。
佛罗里达州立大学计算语言学教授托马斯·朱泽克(Thomas Juzek)没有参与这项研究,他表示这篇论文对快速增长的兴趣领域。
“这是一篇非常好的论文,”Juzek 告诉 NBC 新闻。——真正让我震惊的是这种使用法学硕士来进行语法检查的错觉。这项研究表明,虽然用户可能认为他们只是进行简单的语言检查,但该模型的作用远不止于此。”
“展望未来,这对思想、语言、沟通和创造力意味着什么?”Juzek 问道。
就 Jaques 而言,她认为人工智能系统的语言改变行为可能是它们当前训练方式的结果,这可能会奖励对评分者偏好的操纵。
“如果你正在根据人类反馈训练一个模型,那么该模型对于满足人类和实际改变人类以使他们的偏好更容易满足之间的差异没有界限或感知,”Jaques 说。她认为,人类对法学硕士写作的依赖可能类似于 YouTube 推荐如何改变人们对他们最喜欢的 YouTube 视频类型的偏好。
展望未来,Jaques 表示,她渴望看到更多关于人工智能系统对人类价值观、表达和制度的长期影响的研究,特别是随着越来越多的人工智能研究人员在自己的工作中依赖人工智能系统。
“人类关心的是清晰度、相关性和影响力,而人工智能关心的是可扩展性和可重复性,”Jaques 告诉 NBC 新闻。“它正在以已经影响我们现有机构的方式改变我们的结论。”
雅克说,在她自己的工作中,她避免使用人工智能来撰写新论文。相反,她说她利用法学硕士及其缺点作为自己写作的灵感。
“有时,我会将我试图以对话方式表达的内容的蹩脚版本放入法学硕士中,”Jaques 说。“这通常会产生一些东西,然后激励我自己写它。”