Reddit用户未经同意进行AI驱动的实验

不知不觉地进行AI驱动实验的Reddit用户对科学家进行了反击，以无需允许对它们进行研究，并引发了有关此类实验的更广泛的辩论。

社交媒体网站Reddit分为“专门针对一个特定社区的subreddits”，每个社区都有自己的志愿者主持人。一个subreddit的成员称为R/ChangemyView，因为它邀请人们讨论潜在有争议的问题，所以最近被告知由瑞士苏黎世大学研究人员的主持人一直使用该网站作为在线实验室。

该团队的实验播种了各种大型语言模型（LLMS）产生的1700多个评论，而没有透露它们是真实的，以衡量人们的反应。这些评论包括模仿被强奸或假装是专门从事虐待等的创伤顾问的人。一个研究人员如何产生评论的描述建议他们指示Reddit用户提供了知情同意并同意捐赠数据的人工智能模型，因此不要担心道德的影响或隐私问题。

一个草稿版本在研究的发现中，AI评论在改变人们的观点方面的说服力比人类用户的说服力高三到六倍，这是通过其他用户标记为改变了主意的评论的比例来衡量的。作者写道：``在我们的干预过程中，R/ChangeMyView的用户从未引起人们对AI可能产生我们帐户发表评论的担忧。”这暗示了AI驱动的僵尸网络的潜在有效性，这可能会无缝地融合到在线社区中。”

实验披露后，Subreddit的主持人向苏黎世大学投诉，苏黎世大学的道德委员会最初批准了该实验。在收到对投诉的回应后，主持人向社区通报了所谓的操纵，尽管他们不要求其个人研究人员责任他们的要求。

该实验受到其他学者的批评。在这些时期，我认为，这么多批评是因为不尊重人的自主权而反对科技公司，对于研究人员而言，尤其重要的是要遵守更高的标准。”CarissaVâ©Liz在牛津大学。在这种情况下，这些研究人员没有。

在进行涉及人类和动物的研究之前，需要学者来证明其工作将通过向大学伦理委员会的演讲进行道德进行，并且该研究得到了苏黎世大学的批准。vâ©liz质疑这个决定。她说，这项研究是基于对不同意的研究对象的操纵和欺骗。”这似乎是不合理的。这项研究的设计可能有所不同，因此人们正在同意主题。

欺骗在研究中可以是可以的，但是我不确定这案是否合理。”马特·霍奇金森在开放访问期刊的目录中，他是出版道德委员会理事会的成员，但正在以个人身份发表评论。我发现具有讽刺意味

什么时候新科学家通过提供给SubReddit主持人的匿名电子邮件地址与研究人员联系，他们拒绝发表评论，并将查询转介给苏黎世大学的新闻办公室。

该大学的发言人说，研究人员本身负责执行该项目并发布结果，并且道德委员会已建议实验将是非常具有挑战性的，并且应尽可能多地告知参与者。

发言人说，苏黎世大学打算将来采用更严格的审查过程，尤其是在实验研究之前与平台上的社区进行协调。”发言人说，正在进行调查，研究人员决定不正式发表该论文。