研究人员警告称，人工智能制造的“垃圾科学”充斥着谷歌学者
作者：by University of Borås
人工智能生成的研究对于社会知识和公众对科学的信任都是一种威胁。这是瑞典博拉斯大学瑞典图书馆与信息科学学院的研究人员得出的结论，他们最近在谷歌学术搜索引擎中发现了一百多篇疑似人工智能生成的文章。
他们的研究报道称，人工智能生成的假冒产品科学文章已经淹没了搜索引擎Google Scholar。该研究对人工智能制造的垃圾科学的发现意味着，假科学已经变得可用，并且可以广泛传播，而恶意行为者的成本要低得多。作品发表在期刊上哈佛大学肯尼迪学院错误信息审查。
这对社会和人民都构成了危险研究团体瑞典图书馆与信息科学学院的 Jutta Haider 和 Björn Ekström 表示，他们与隆德大学的 Kristofer Söderström 和瑞典农业科学大学的 Malte Rödl 共同参与了这项研究。
证据被盗的风险增加
人工智能生成的研究的主要问题之一是证据被黑客攻击的风险增加，即虚假研究可用于战略操纵。
“当人工智能生成的研究在搜索引擎中传播时，我们所说的‘证据黑客’的风险就会显着增加。这可能会产生明显的后果，因为不正确的结果可能会进一步渗透到社会中，甚至可能渗透到越来越多的领域，”埃克斯特罗说米，拥有图书馆与信息学博士学位。
这项研究背后的研究人员已经发现这些有问题的文章已经传播到网络上研究基础设施的其他部分、各种档案中，社交媒体等等。传播速度很快，谷歌学术让有问题的文章可见。即使文章被撤回，它们也有时间传播并继续传播的风险。
此外，人工智能生成的研究给本已捉襟见肘的同行评审系统带来了问题。
对信息素养提出了更高要求
人工智能生成的研究正在搜索引擎数据库中传播，这一事实对参与在线研究的人提出了更高的要求。
“如果我们不能相信我们读到的研究是真实的，我们就有可能根据不正确的信息做出决定。但这不仅是一个科学不当行为的问题，也是一个媒体和媒体的问题。信息素养，”图书馆与信息科学教授海德尔说。
她指出，谷歌学术并不是一个学术数据库。该搜索引擎易于使用且速度快，但缺乏质量保证程序。对于常规的谷歌结果来说，这已经是一个问题了，但在让科学变得更容易理解方面，问题就更大了。
海德尔总结道：“人们决定哪些期刊和出版商（大多数情况下）发表经过质量审查的研究的能力对于寻找和确定什么构成可靠的研究非常重要，对于决策和意见形成也非常重要。”
更多信息：Jutta Haider 等人，Google Scholar 上 GPT 编造的科学论文：关键特征、传播以及对先发制人的证据操纵的影响，哈佛大学肯尼迪学院错误信息审查（2024）。DOI：10.37016/mr-2020-156
提供者：博拉斯大学
引文:研究人员警告称，人工智能制造的“垃圾科学”充斥着谷歌学者（2025 年 1 月 13 日）检索日期：2025 年 1 月 14 日来自 https://phys.org/news/2025-01-ai-fabricated-junk-science-google.html
本文档受版权保护。除了出于私人学习或研究目的的任何公平交易外，不得未经书面许可，不得复制部分内容。所提供的内容仅供参考。
关于《研究人员警告称，人工智能制造的“垃圾科学”充斥着谷歌学者》的评论
暂无评论