Reddit mod正在努力阻止AI脱离子雷数。他们可以使用帮助。

而且一些Reddit用户肯定不喜欢“类别。技术。

为了更好地理解与这些禁令相关的推理和障碍，ARS Technica与完全或部分禁止生成AI的子列表的主持人进行了交谈。几乎所有这些志愿者都将反对生成AI的主持人描述为一项耗时的挑战，他们期望随着时间的流逝而变得更加困难。大多数人希望Reddit将发布一种工具来帮助他们的努力。

很难知道实际上有多少AI生成的内容在Reddit上，而获得估算将是一项巨大的工作。图像库Freepik有分析在社交媒体上使用AI生成的内容，但将Reddit排除在研究之外在电子邮件声明中说。就其部分而言，Reddit并未公开披露多少Reddit帖子涉及生成AI的使用。

需要明确的是，我们并不是建议Reddit在生成AI使用方面存在很大的问题。到目前为止，许多次级似乎已经同意了他们对AI生成的帖子的方法，而生成的AI并没有取代使Reddit流行的真实的人类声音。

尽管如此，MOD在很大程度上同意，生成的AI在未来几年内可能会在Reddit上受欢迎，这使得生成的AI改装对主持人和普通用户都变得越来越重要。Generative AI的日益受欢迎程度也对Reddit造成了影响，该公司于2024年开始许可reddit帖子训练大型语言模型（LLMS）为生成AI提供动力。

（注意：我与此故事交谈的所有主持人都要求我使用他们的reddit用户名，而不是由于隐私问题而不是真实姓名。）

不允许生成AI

当涉及抗生物AI规则时，众多的子雷数具有零容忍政策，而其他次数则允许使用生成AI的帖子（如果与人类元素结合使用或执行得很好）。这些规则任务mod通过使用生成AI来识别帖子并确定它们是否符合子Reddit上的标准。

许多子列表对用生成AI发表的帖子有规则，因为他们的MOD团队或成员认为此类职位 - 努力低下或认为AI与SubReddit提供真正的人类专业知识和创造的使命是违反直觉的。

R/AskHistorians的Mods在一份中告诉我：“从基本层面上，生成的AI从互联网上删除了人类因素；如果我们允许的话，它将破坏R/AskHistorians的重点，这是与专家的交往。”集体声明。

Subreddit的目标是提供历史信息，其Mod认为生成AI可以使SubReddit上共享的信息降低。Mods说：“ [生成AI]可能会幻觉事实，产生不存在的参考或以其他方式提供误导性内容。”“有人从LLM那里获得答案可以对后续行动做出回应，因为他们是专家。我们已经建立了作为可靠的历史信息来源的声誉，并且使用[Generative AI]，尤其是没有监督，认为这是有风险的。”

同样，r/wheeloftime的mod halaku告诉我，subreddit的mods禁止使用生成性AI，因为我们专注于真正的讨论。而且可以淹没实际艺术家所做的实际艺术品。

R/Lego Mod Mescad说，R/Lego Subreddit禁止AI生成的艺术，因为它在在线粉丝社区和出售乐高产品产品的零售商店中引起了困惑。他们解释说，人们会看到[i] nstagram或[f] acebook上看起来像乐高的AI生成的艺术，然后进入商店要求购买它。”我们认为，我们社区对真实乐高产品的奉献精神不包括AI生成的艺术。

当然，并非所有的Reddit都反对生成的AI。致力于该技术的子列表存在，并且一些一般的子列表允许在某些或所有形式中使用生成AI。

3rdusernameives说：“在禁令方面，我宁愿专注于仇恨言论，纳粹致敬以及实际上会损害subreddits的事情。”“ AI艺术没有这样做……如果我出于“道德'原因我要禁止某事，那可能不会是AI艺术。”

压倒性的低效率倾斜

一些生成的AI禁令反映了人们对人们所创造的内容没有适当补偿的担忧，然后将其付诸实践。

Mod MathGeek007告诉我，R/僵局禁止生成的AI，因为其成员认为这是一种未经信用的盗窃形式，”

您不允许您出售/宣传他人的工人，而从某种意义上说，AI正在使用他人的工作中衍生出的模式来创建模拟。如果所涉及的艺术家获得了信誉和补偿，我个人对此有更少的问题，并且有一些利基AI工具可以做到这一点。

其他主持人只是认为生成型AI降低了子雷迪特内容的质量。

Mathgeek007说：“它通常看起来不好……艺术通常看起来不差。”

同样，R/视频禁止大多数AI生成的内容，因为公告，这些视频很烦人，只是99％的时间很糟糕。在在线采访中，R/Videos Mod Abrownn告诉我：

仅仅用于观看/广告收入，这是压倒性的低效果。创作者很少在乎付出真正的努力（或]内容的编辑[或]很少有连贯的叙述[在]视频中等等。似乎他们只是将生成的内容扔到视频中，并导出它，并将其称为一天。

R/Fakemon Mod告诉我，“我可以在艺术创作方面想到更低效果，而不仅仅是键入单词并为您生成的单词。”

一些主持人说，生成的AI可以帮助人们在子reddit上垃圾邮件垃圾邮件，包括与子雷迪特无关的帖子和​​攻击用户的帖子。

艾伯恩恩说：“ [生成AI]的内容几乎完全出于纯粹的自我促销/货币原因而发布，而作为Reddit的mods，我们一直在与虐待用户打交道，而只是不考虑规则而不用垃圾邮件。”

R/壁纸子雷迪特的主持人，允许生成的AI不同意。该mod告诉我，生成的AI在Subreddit中“提供新的新内容”，并质疑有关从人类艺术家窃取生成的AI或提供低质量工作的担忧，并说这些问题并不是生成AI所独有的：

即使在我们的社区中，我们也会观察到人类生成的内容，这些内容主观低质量（较差的相机/[P] Hotoshopping技能，低分辨率的原始材料，故意的“ shitposting”）。可以说，AI生成的内容放大了这种行为，但是我们的经验（我们尚未量化）是，这种行为的速度（无论是人类生成还是AI生成的内容）在我们自己的社区中没有太大变化。

但是，我们不是一个非常活跃的社区（每天约13个职位）...因此，这很可能是“沸水中的青蛙”。

生成性浪费了我们的时间

许多mod对他们有效识别使用生成AI的帖子的能力充满信心。一个更大的问题是识别这些帖子并删除它们需要多少时间。

例如，R/AskHistorians Mods指出，Subreddit上的所有禁令（包括与AI无关的禁令）都有“上诉程序”，并且进行了这些评估并审查AI上诉，这意味着我们会重新花大量时间在几年前我们不必担心的事情上花费大量时间。”

他们补充说：

坦率地说，[生成AI]用法的最大挑战是它浪费了我们的时间。The time spent evaluating responses for AI use, responding to AI evangelists who try to flood our subreddit with inaccurate slop and then argue with us in modmail, [direct messages that message a subreddits’ mod team], and discussing edge cases could better be花在其他SubredDit项目上，例如我们的播客，新闻通讯和AMAS，向用户提供反馈，或者来自打算的用户的输入为社区做出积极贡献。

我同意的其他几个mods。例如，Mathgeek007将“战斗AI Bros”称为一个常见的障碍。对于r/wheeloftime主持人halaku，主持生成AI的最大挑战是一代。

``当前一代的某些人对AI没有问题，因为内容是内容，[他们认为]我们是通过争论而成为精英主义者，他们想对此进行辩论。”。

几个mod指出，禁止生成AI的中等值的时间少于允许使用生成AI的帖子（根据上下文）进行允许帖子的时间。

``在我们允许AI的子雷迪特上，我经常花更长的时间才能真正进入我觉得自己的每个帖子中……实际上是为了真正看一下并做出决定，''N3DSDUDE解释说，几个子列数的mod and taundlockthegame在内，有针对生成AI的规则。

MyarIntime是R/LewdGames的主持人，允许生成AI图像，强调了识别人类促进的生成AI内容的挑战，而不是由bot引起的AI生成的内容：

当AI炸弹启动时，大多数机器人开始使用AI内容在我们的过滤器上使用。这些机器人中的大多数开始显示一些随机的AI渲染，因此看起来您实际上实际上是在谈论游戏。除非[您一一检查]，否则无法知道这些帖子何时是合法游戏。老实说，我相信，如果我们使用[AI-]生成的图像踢任何帖子...而不是检查一个按钮是否被人按下。

国防部期望事情变得更糟

大多数mod告诉我，他们很容易检测用生成AI制成的帖子，这表明AI生成的文本的独特语气和偏爱的短语。一些人说，AI生成的视频很难发现，但仍然可以检测到。但是，随着生成AI的提高，主持人期望他们的工作变得越来越努力。

在一个联合声明中，r/dune mods blue_three和herbalhippie说：ai曾经遇到问题，即手指太多，等等。但是随着时间的流逝，这是越来越少的一个问题

R/Videos的Abrownn还想知道，随着AI工具的推动和内容的生命，检测AI生成的reddit内容将有多容易。”

MathGeek007添加：

AI变得越来越难以发现，并以更大的速度传播。当AI风格正常化时，战斗就变得更加困难。我希望生成的AI会变得更糟，直到它与普通艺术无法区分。

主持人目前使用各种方法来对抗生成的AI，但并不完美。例如，R/AskHistorians Mods使用AI检测器，这些检测器是不可靠的，有问题的，有时需要付费订阅的，以及我们自己通过经验和专业知识来检测AI的能力，而N3DSDUDE指出了诸如此类的工具quid和gptzero。

为了管理围绕生成AI的当前和将来的工作，我与之交谈的大多数mod表示，他们喜欢Reddit，以释放专有工具来帮助他们。

艾伯恩恩说，我还没有看到可以检测AI生成的视频内容的可靠工具。”•即使我们确实拥有这样的工具，我们每天都会通过该工具进行数百小时的内容，这会变得相当快地变得相当快。而且我们没有自愿的主持人，因此，在大规模检测此类内容时，我们将不久就被淘汰。我们只能希望Reddit会在不久的将来为我们提供一个工具，这可以帮助解决这个问题。

Reddit发言人告诉我，该公司正在评估这种工具的外观。但是Reddit并没有禁止生成AI的规则，并且发言人表示，该公司不想发布一种可以阻碍表达或创造力的工具。

目前，Reddit似乎满足于依靠主持人在适当时删除AI生成的内容。Reddit的发言人补充说：

我们的节制方法有助于确保Reddit上的内容由真正的人类策划。主持人很快就可以删除不遵循社区规则的内容，包括有害或无关紧要的AI生成的内容 - 我们认为这种情况在不久的将来不会发生变化。

制作生成的ai reddit工具将不容易

Reddit正在处理有关生成AI的不断发展的问题，因为它处理了其他内容问题，包括利用AI和机器学习工具。Reddit的发言人说，这包括可以识别AI生成的媒体的测试工具，例如政治家的图像。

但是，制作一个专有工具，允许主持人可以检测AI生成的帖子，如果它发生的话，这将不是一件容易的事。当前用于检测生成AI的工具的功能受到限制，并且随着生成AI的进步，Reddit将需要提供比当前可用的AI检测工具更先进的工具。

这将需要大量的技术资源，也可能会给社交媒体平台带来显着的经济挑战，这只有去年变得有利可图。正如R/Videos主持人Abrownn所指出的那样，用于检测AI生成的视频的工具还有很长的路要走，这使得针对Reddit特定的系统特别具有挑战性。

但是，即使有了假设的Reddit工具，主持人仍然会为他们削减工作。而且，由于Reddit的受欢迎程度很大程度上是由于其真正人类的内容，因此这项工作很重要。

自从Reddit成立以来，这意味着依靠主持人，Reddit表示打算继续做。作为R/Dune modblue_three赫巴希皮（Herbalhippie）说，在雷迪特（Reddit）的最佳利益中，大多数内容本质上仍然是有机的。”毕竟，雷迪特（Reddit）的盈利能力与AI公司愿意支付多少钱有关访问Reddit数据，如果Reddit帖子在很大程度上成为自我，则该价值可能会下降。

但是，提供该技术以确保不会在Reddit上滥用生成的AI是一个很大的challege。目前，志愿劳动者将继续首当其冲的AI节制。

拥有ARS Technica ParentCondâNast的Ard Adventa Publications是Reddit的最大股东。

本文的更新是为了为Freepik的电子邮件声明提供正确的Attrbution。