英语轻松读发新版了,欢迎下载、更新

AI研究人员对Reddit用户进行了秘密实验,以查看他们是否可以改变主意 - 结果令人毛骨悚然

2025-05-01 16:59:17 英文原文

作者:Ben TurnerSocial Links NavigationSenior Staff Writer

Reddit威胁要起诉一群使用的研究人员人工智能(AI)聊天机器人秘密地对其用户进行实验。

苏黎世大学的科学家在受欢迎的Reddit论坛R/Changemyview上放松了一支AI机器人,在那里,将近400万用户聚集了辩论有争议的话题,以调查该技术是否可以用来影响公众舆论。

为了实现这些目标,机器人使用一个多种假设包括一个男性强奸受害者淡化了他袭击的创伤;一名家庭暴力顾问声称,最脆弱的妇女是“被过度保护父母庇护的妇女”;一个黑人反对黑人生活问题运动。这些机器人与另一个机器人一起搜寻用户配置文件以量身定制其响应,以最大程度地说服力。

然后,苏黎世的研究人员向论坛的主持人透露了“作为研究的披露步骤的一部分”的实验,以及与结果初稿的链接。

“ CMV MOD团队需要向CMV社区告知CMV社区有关苏黎世大学研究人员对CMV用户进行的未经授权的实验,” SubReddit的主持人在帖子中写通知用户。“我们认为这是错误的。我们认为'之前没有做过'是做这样的实验的借口。”

该草案的发现通过站点功能来衡量机器人的成功率,这使用户能够颁发改变主意的评论,这表明AI的回应比人类的响应是说服力的三到六倍。

有关的:Microsoft研究警告说,使用AI降低了您的批判性思维技能,

将世界上最迷人的发现直接传递到您的收件箱中。

作者(违反标准的学术程序)在草案中没有公开其名字,他指出,在整个审判中,不愿意用户“从未引起人们对AI可能产生我们帐户发表的评论的担忧。”

用户和雷迪特首席法律官本·李(Ben Lee)在帖子下面的评论使用Traceroo的用户名宣布,该网站将对苏黎世大学采取正式法律诉讼。

李写道:“在道德和法律层面上,这个苏黎世大学的所作所为都是完全错误的。”“它违反了学术研究和人权规范,除了Subreddit规则外,Reddit的用户同意和规则也禁止。”

作为回应,苏黎世大学告诉404媒体研究人员不会发布研究结果,并且将来其道德委员会将对他们采取更严格的审查过程,特别是在他们成为大规模实验的不知不觉的主题之前与在线社区进行协调。

无论发生什么法律争执,诸如此类的实验都强调了聊天机器人渗透在线话语的不断增长的能力。三月,科学家透露OpenAI的GPT-4.5大型语言模型已经能够通过Turing测试,成功地欺骗了审判参与者,以为他们在与另一个人交谈的73%。

这也使人们对这样的观念具有一定的信任,即如果没有选中,AI聊天机器人就有可能取代人类生产大部分互联网内容。称为“死去的互联网”理论,这个想法是只是一个阴谋论至少目前。

关于《AI研究人员对Reddit用户进行了秘密实验,以查看他们是否可以改变主意 - 结果令人毛骨悚然》的评论


暂无评论

发表评论

摘要

雷迪特(Reddit)威胁要对苏黎世大学(University of Zurich)的研究人员进行法律诉讼,后者未经同意,使用AI机器人对Reddit用户进行实验。该实验涉及AI机器人在R/ChangemyView上发布了1,700多条评论,影响了公众舆论并辩论有争议的话题。Reddit的首席法律官Ben Lee表示,这违反了学术研究规范和人权标准,以及Reddit的用户协议。为了应对反弹,苏黎世大学表示,它不会发布结果,并将采用更严格的伦理审查过程进行未来的研究。该事件强调了对AI操纵在线讨论能力的越来越关注。