AI Slop 正在毁掉每个人的 Reddit

Reddit 帖子新娘要求婚礼宾客穿特定的、不讨人喜欢的颜色的新闻肯定会引起愤怒，更不用说伴娘或新郎的母亲想穿白色的了。如果父母要求飞机上的某人换座位，以便他们可以坐在年幼的孩子旁边，这种情况很可能会引发同样的愤怒。但这些帖子可能会引发红迪网主持人的烦恼有不同的原因——它们是日益增长的类型中的常见主题人工智能-生成的虚假帖子。

这些是卡西（Cassie）脑海中浮现的例子，她是该网站的数十名版主之一。r/AmItheAsshole。它拥有超过 2400 万会员，是最大的 Reddit 子版块之一，并且明确禁止人工智能生成的内容和其他编造的故事。自 2022 年底 ChatGPT 首次向公众推出以来，Cassie（希望仅提及名字）和其他自愿花时间审核 Reddit 帖子的人一直在与大量人工智能内容的涌入作斗争。其中一些完全是人工智能生成的，而其他用户则开始使用 Grammarly 等人工智能程序编辑他们的帖子和评论。

“这可能比任何人想要真正承认的更普遍，因为很容易将您的帖子推到 ChatGPT 并说“嘿，让这更令人兴奋，”Cassie 说，她认为发布到 Reddit 的所有内容中多达一半可能是通过人工智能以某种方式创建或修改的。

r/AmItheAsshole 是 Reddit 文化的支柱，这种格式启发了数十个（甚至数百个）衍生品，例如 r/AmIOverreacting、r/AmITheDevil 和 r/AmItheKameena（一个拥有超过 100,000 名会员的 Reddit 子版块，被描述为“我是混蛋吗，但印度版本。”）帖子往往以有关人际冲突的故事为特色，Reddit 用户可以在其中发表意见谁错了（“YTA”的意思是“你是个混蛋”，而“ESH”的意思是“这里每个人都很糟糕”），谁是对的，以及采取的最佳行动方针是继续前进。这些 r/AmItheAsshole 变体的用户和版主报告称看到了更多他们怀疑是人工智能生成的内容，而其他人则表示这是所有 Reddit 子版块中发生的全站范围问题。

“如果你有一个普通的婚礼替补或 AITA、人际关系或类似的东西，你会受到沉重打击，”r/AITAH 的一位版主说，r/AITAH 是 r/AmItheAsshole 的一个变体，拥有近 700 万会员。这位不愿透露姓名的退休版主已在 Reddit 上活跃了 18 年（Reddit 存在的大部分时间），在此之前还拥有数十年的网络业务经验。她认为人工智能对该平台存在潜在的威胁。

“Reddit 本身要么必须做点什么，要么蛇会吞下自己的尾巴，”她说。“现在已经到了人工智能喂养人工智能的地步了。”

Reddit 发言人在回应置评请求时表示：“Reddit 是互联网上最人性化的地方，我们希望它保持这种状态。”我们禁止操纵内容和不真实的行为，包括冒充人类的误导性人工智能机器人帐户和外国影响力活动。只要符合社区规则和我们网站范围的规则，带有明确标签的人工智能生成内容通常都是被允许的。该发言人补充说，2025 年上半年，有超过 4000 万条“垃圾邮件和受操纵的内容被删除”。

氛围转变变得更糟

26 岁的艾莉在佛罗里达州一所社区大学当家教，为了保护隐私而使用自己的名字，她注意到 Reddit 在过去的一年里因为人工智能而“真正走下坡路”。r/EntitledPeople、r/simpleliving 和 r/self 等 Reddit 子版块中的其他用户也分享了她的感受，这些子版块去年的帖子对可疑人工智能的兴起表示哀叹。仅仅是人工智能生成某些东西的可能性就已经削弱了用户之间的信任。“人工智能正在把 Reddit 变成一堆垃圾，”r/AmITheJerk 上的一个账户写道。– 即使一个被怀疑是人工智能的帖子不是 – 但人工智能的存在就像房间里有一个间谍。怀疑本身就是一个敌人。 – Ally 过去喜欢阅读 r/AmIOverreacting 等 Reddit 子版块。但现在她不知道自己的互动是否真实，而且她在平台上花费的时间也比过去几年少了。

“人工智能让每个人都筋疲力尽，”r/AITAH 主持人说道。“我看到人们付出了巨大的努力来为人们寻找资源，但得到的答复却是“哈，你上当了，这都是谎言。”

检测人工智能

几乎没有万无一失的方法可以证明某物是否是人工智能，大多数人都依靠自己的直觉。文本可能比照片和视频更难评估，照片和视频通常有相当明确的信息。接受《连线》采访的五位 Reddit 用户在识别人工智能生成的文本方面都有不同的策略。当帖子在正文中逐字重述其标题或使用时，Cassie 会注意到破折号，以及当发帖者的评论历史记录中有糟糕的拼写和标点符号，但发布的内容具有完美的语法时。艾莉对新创建的 Reddit 帐户和标题中带有表情符号的帖子感到困惑。r/AITAH 模组从某些帖子中获得了一种“恐怖谷”的感觉。但这些“告诉”也可能出现在根本不使用人工智能的帖子中。

“在这一点上，有一种“见了就知道”的氛围，”康奈尔理工学院的博士生特拉维斯·劳埃德 (Travis Lloyd) 说道。发表的研究Reddit 版主面临的新的人工智能驱动挑战。– 目前，还没有可靠的工具可以 100% 检测到它。所以人们有自己的策略，但它们不一定是万无一失的。”

另外，随着越来越多的人工智能文本出现，人们开始模仿人工智能生成语言的共性，无论他们是否使用人工智能。在 Reddit 上，人工智能反馈循环可能更加乱伦，因为该平台已经起诉了像这样的人工智能公司人择和困惑涉嫌在未经同意训练聊天机器人的情况下抓取 Reddit 内容。谷歌的人工智能摘要结果臭名昭著地从 Reddit 评论中提取出来，这些评论实际上是讽刺性的笑话，就像一个用户建议使用胶水让奶酪更好地粘在披萨饼皮上。

“人工智能是在人类的基础上进行训练的，而人们会模仿他们看到的其他人在做什么，”卡西说。“人变得越来越像人工智能，人工智能也变得越来越像人。”

针对少数群体的愤怒诱饵

AITA 的两位版主都表示，他们观察到了一种用人工智能编写的煽动愤怒的帖子的趋势，这些帖子的存在似乎只是为了诽谤跨性别者和其他弱势群体。r/AITAH 版主表示，该 Reddit 子版块在骄傲月期间收到了大量反跨性别内容，而 Cassie 则表示这些内容间歇性地出现在审核队列中。

“诸如‘我的父母没有使用我选择的名字，而我是跨性别者，我对他们大发雷霆，因为他们怎么敢这样’，或者‘有人假设了我的性别，而我是顺式的，但他们怎么敢假设我的性别，”卡西说。“它们只是为了让你对跨性别者、同性恋者、黑人和女性感到愤怒。”

在围绕新闻和政治的 Reddit 子版块中，人工智能实现了传播虚假信息的新方式。汤姆（Tom）是一位 Reddit 用户，曾帮助主持 r/Ukraine 三年，为了保护隐私只用自己的名字说话，他也遇到过这样的情况，以及早于 ChatGPT 等程序的 astroturfing 等社交操纵技术。但现在，人工智能可以自动化这些策略，让人类主持人更难跟上。

“这就像一个人站在田野里对抗海啸，”汤姆说。“你可以用如此小的努力来制造如此多的噪音。”

在拥有近 100 万会员的 r/Ukraine 上，Tom 记得接受过其他 mod 的培训，试图减少俄罗斯宣传的传播，甚至还获得了 Reddit 管理员的专门支持，他们比志愿者高出一步，实际上为 Reddit 工作并获得报酬。

业力货币化

除了意识形态动机之外，还有一些鲜为人知的 Reddit 内容货币化方式。有些更明显，比如Reddit 贡献者计划，它可以让发帖者通过获得投票（称为“业力”）和其他用户可以为他们购买的奖励来赚钱。从理论上讲，Reddit 骗子可以利用人工智能生成的内容来积累业力，从中获利，甚至出售他们的帐户。

“我的 Reddit 帐户值很多钱，我知道这是因为人们一直想买它，”汤姆说。“它也可能被用于邪恶的目的，但我怀疑其中很多人都是无聊而有时间的人，他们就像“好吧，我几乎什么都不做就能在一个月内赚到一百美元。”

其他帐户需要业力才能访问具有业力要求的 NSFW subreddits 中的帖子，然后他们可以在其中推广 OnlyFans 链接等内容。Cassie 和 r/AITAH 版主都注意到，帐户在其较大的 Reddit 子版块中发帖是为了累积业力，然后再发布成人内容。其中一些是骗子。其他人可能只是想谋生。

“有时是真实的，有时是他们实际发生过的实际冲突，有时是假的，有时无论如何都是人工智能生成的，”卡西说。“我几乎想将其称为游戏化，他们只是尝试按照系统的设置方式使用系统。”

Reddit 审核员筛选潜在人工智能材料所需的额外时间反映了人工智能内容总体上如何制造了新的障碍，这远远超出了社交媒体审核的范围。

“Reddit 版主正在处理的问题就是世界各地的人们现在正在处理的问题，他们正在适应这样一个世界：只需很少的努力就可以创建看起来合理的人工智能生成内容，并且需要付出更多的努力来评估它，”劳埃德说。“这对他们来说是一个真正的负担，就像对老师和其他人来说一样。”