照片上是两个瘦弱、贫困的南亚儿童。

出于某种原因，尽管他们有着孩子气的特征，但他们却留着浓密的胡须。其中一人没有手，只有一只脚。另一个举着牌子，上面写着今天是他的生日，并请求点赞。

令人费解的是，他们在倾盆大雨中拿着生日蛋糕坐在繁忙的马路中间。这张图片充满了明显的迹象，表明它是由人工智能制作的。但在 Facebook 上，它迅速传播开来，获得了近百万个赞和心形表情符号。

西奥多的心突然崩溃了。

“这让我难以置信。荒谬的人工智能制作的图像遍布 Facebook，并且在没有任何审查的情况下获得了巨大的关注 - 这对我来说太疯狂了，”这位来自巴黎的 20 岁学生说道。

因此，Théodore 在 X（以前称为 Twitter）上创建了一个名为“Insane AI Slop”的帐户，并开始大声疾呼并取笑他遇到的愚弄人们的内容。其他人注意到了，他的收件箱很快就挤满了为流行的所谓人工智能垃圾发送意见书的人。

共同的主题开始变得明显——宗教、军事或贫困儿童做温暖人心的事情。

“第三世界的孩子们做出令人印象深刻的事情总是很受欢迎，就像非洲的一个穷孩子用垃圾制作一个疯狂的雕像一样。我认为人们觉得它有益健康，所以创作者会想，‘太好了，让我们制作更多这样的东西，’”西奥多说。

Théodore 的账户很快就拥有超过 133,000 名关注者。

人工智能垃圾的冲击——他将其定义为快速制作的虚假、不令人信服的视频和图片——现在已经势不可挡。科技公司已经拥抱人工智能。一些公司表示，他们正在开始打击某些形式的人工智能“失范”——尽管许多社交媒体源似乎仍然充斥着这些内容。

短短几年间，社交媒体的使用体验发生了深刻的变化。它是如何发生的，会对社会产生什么影响？

也许最紧迫的是，数十亿社交媒体用户到底有多关心？

社交媒体的“第三阶段”

10 月，在另一场欢欣鼓舞的财报电话会议上，Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg) 高兴地宣布社交媒体已进入第三阶段，现在以人工智能为中心。

“首先是所有内容都来自朋友、家人和你直接关注的帐户。

“第二次是我们添加了所有创作者内容。现在，随着人工智能使创建和重新混合内容变得更加容易，我们将添加另一个庞大的内容库，”他告诉股东。

Meta 运营着 Facebook、Instagram 和 Threads 等社交媒体网站，它不仅允许人们发布人工智能生成的内容，还推出了产品来制作更多内容。现在全面提供图像和视频生成器以及日益强大的过滤器。

当寻求评论时，梅塔向 BBC 指出了 1 月份的财报电话会议。在那次电话会议中，这位亿万富翁表示，该公司更加倾向于人工智能，但没有提及任何对违法行为的打击。

扎克伯格表示：“很快我们就会看到新媒体格式的爆炸式增长，这些格式更具沉浸感和互动性，而这只有人工智能的进步才有可能实现。”

YouTube 首席执行官尼尔·莫汉 (Neal Mohan) 在其 2026 年展望博客中写道，仅 12 月份就有超过 100 万个 YouTube 频道使用该平台的人工智能工具来制作内容。

他写道：“正如合成器、Photoshop 和 CGI 彻底改变了声音和视觉效果一样，人工智能也将成为那些准备好投入的创意人员的福音。”

这位首席执行官还承认，人们越来越担心“低质量内容，又名人工智能溢出”。他表示，他的团队正在研究改进系统的方法，以查找和删除“低质量、重复的内容”。

但他也排除了对什么应该、什么不应该繁荣做出任何判断的可能性。他指出，曾经小众的内容，如 ASMR（旨在让你头皮发麻的舒缓声音）和现场视频游戏现在已成为主流。

根据人工智能公司 Kapwing 的研究，新开设的 YouTube 帐户中显示的内容现在有 20% 是“低质量的人工智能视频”。

短视频尤其成为热点，Kapwing 发现在研究人员创建的新帐户上播放的前 500 个 YouTube Shorts 剪辑中，有 104 个出现了短视频。

创作者经济似乎是一个重要的推动力，因为人们和频道可以通过参与和观看来赚钱。从一些人工智能频道和视频的观看次数来看，人们确实被这些内容所吸引，或者说被决定我们所看到的内容的算法所吸引。

据 Kapwing 称，观看次数最多的 AI slop 频道是印度的 Bandar Apna Dost，该频道的观看次数为 20.7 亿次，预计为创作者带来 400 万美元（290 万英镑）的年收入。

但也有一些强烈的反对声音正在发生。

在许多病毒式传播的人工智能视频中，现在常见的是谴责其内容的激烈评论。

巨型怪物和致命的腹部寄生虫

来自巴黎的学生西奥多（Théodore）帮助推动了这种强烈反对。

利用他在 X 上新发现的影响力，他向 YouTube 版主抱怨大量奇怪的人工智能卡通片的浏览量。在他看来，这些内容令人不安且有害，而且在某些情况下，他认为这些内容是针对儿童的。

这些视频被称为“猫妈妈从致命的腹部寄生虫中拯救小猫”，并展示了血腥场景。

另一个短片展示了一名穿着睡衣的女人吃了寄生虫，然后变成了一个巨大的愤怒怪物，最终被耶稣治愈了。

YouTube 删除了这些频道，并告诉我们他们这样做是因为违反了社区准则。他们表示，他们“致力于将我们的用户与高质量内容联系起来，无论内容是如何制作的”，并表示他们正在努力“减少低质量人工智能内容的传播”。

但这次经历，加上许多其他类似的经历，让西奥多感到沮丧。

即使是看似舒适的生活方式网站，如 Pinterest（食谱和室内设计理念的论坛）也受到了影响。

用户对人工智能的泛滥感到非常沮丧，以至于该公司为人工智能生成的内容引入了一个新的选择退出系统——但这依赖于用户承认他们完美的房屋图像是人工智能制作的。

评论区一片愤怒

在我的信息流中（我知道每个人的信息流都是不同的——包括评论）——对人工智能废话的强烈反对已经持续不断。

无论是 TikTok、Threads、Instagram 还是 X，似乎都存在反对这些内容的人民力量运动。

有时AI反驳评论的点赞数远远超过原帖。最近的一段视频就是这样的情况，显示一名滑雪者从熊手中救出了一只狼。该视频本身获得了 932 个点赞，而一位评论者则获得了 2,400 个点赞，他写道：“如果你厌倦了这个 AI 狗屎，请举手”。

但当然，这一切都喂养了野兽。

对于社交媒体平台来说，所有参与都是良好的参与，让我们滚动是关键。

那么，社交媒体上令人惊叹、温馨或令人震惊的视频是否真实真的很重要吗？

美国雪城大学副教授艾米丽·索森专门研究政治、错误信息和误解，她表示这取决于人们在社交媒体平台上做什么。

“如果一个人纯粹为了娱乐而进入短视频平台，那么他们判断某件事是否值得的标准很简单，就是‘它是否有趣？’”她说。“但如果有人在平台上了解某个主题或与社区成员联系，那么他们可能会认为人工智能生成的内容更有问题。”

人们对人工智能失利的看法也取决于它的沟通方式。

如果某件事明显是开玩笑，那么它似乎就会被当做笑话来对待。但当人工智能废液专门用于欺骗时，它可能会激怒人们。

我最近看到的一段人工智能生成的视频具有象征意义：一段令人难以置信的现实、自然历史风格的视频，讲述了一场令人惊叹的豹子狩猎。评论中，有的观众被忽悠了；其他人则不确定。

“它来自哪部纪录片？”一位评论者问道。“拜托——这是[证明]没有人工智能的唯一方法。”

意大利帕多瓦大学的亚历山德罗·加莱亚齐 (Alessandro Galeazzi) 研究社交媒体行为和回音室。

他说，验证视频是否是人工智能需要脑力劳动，从长远来看，他担心人们会停止检查。

“我的感觉是，使用人工智能生成的大量无意义、低质量的内容可能会进一步缩短人们的注意力，”他说。

他将那些旨在欺骗的内容与更滑稽、明显虚假的人工智能废话区分开来，比如穿鞋的鱼，或者在健身房举重的大猩猩。

但即使是更异想天开的内容也可能会产生破坏性影响。他谈到了“脑腐烂”的风险——我们不断接触社交媒体正在损害我们的智力。

他说：“我想说，人工智能的滥用会加剧大脑腐烂效应，让人们快速消费他们知道不仅不太可能真实，而且可能没有意义或无趣的内容。”

除了溢出之外，一些人工智能制作的内容可能会产生更糟糕的影响。

埃隆·马斯克 (Elon Musk) 的公司 xAI 和社交平台 X 最近被迫改变规则，因为聊天机器人 Grok 被用来在 X 上以数字方式脱掉妇女和儿童的衣服。

在美国袭击委内瑞拉后，人们在街头哭泣并感谢美国的虚假视频被传播。此类内容可以塑造公众舆论，并给人留下这样的印象：美国的突袭行动比实际情况更受欢迎。

分析人士表示，这一点尤其令人担忧，因为许多人将社交媒体作为唯一的新闻来源。

OpenOrigins（一家区分人工智能和真实图像的公司）的首席执行官曼尼·艾哈迈德博士表示，我们需要一种新的方式让真实内容的海报能够证明他们的剪辑和图片是真实的。

“我们已经到了这样的地步，仅靠检查就无法自信地辨别真伪，”他说。“我们不需要试图检测什么是假的，而是需要允许真实内容公开证明其来源的基础设施。”

您可能认为这是社交媒体公司可以承担的事情。但包括 Meta 和 X 在内的许多公司已经削减了审核团队，并采用了更加集体的方法。他们现在倾向于依赖用户将事物标记为虚假或误导性的。

因此，如果现有的科技巨头普遍乐于让污水流动，那么一个新的社交媒体平台是否会崛起，承诺提供一种无污水的替代方案，并最终挑战现有企业？

这似乎不太可能，因为检测人工智能变得越来越困难。机器不再能够准确地检测视频或图像是否确实是假的，并且机器在主观判断内容是否算作“马虎”时会更加困难。

然而，如果新的社交媒体确实出现，人们用脚（更准确地说，是眼球和拇指）投票，它可能会改变局面。我想起了社交媒体挑战者 BeReal 的崛起，这是一款在疫情期间流行的法国应用程序，它鼓励用户在随机时间通过未经过滤的自拍照来展示真实的自我。

BeReal 尚未达到与 Facebook 和 Snapchat 相同的高度，而且可能永远不会。但这确实让其他平台坐立不安，在某些情况下，他们复制了这个想法。

如果反人工智能挑战者采取行动，也许这种情况可能会再次发生。

至于西奥多，他觉得这场战斗已经失败了，人工智能的劣势将继续存在。

尽管他的邮箱中仍然有 130,000 名粉丝提交的内容，但他不再发帖了，而且基本上已经接受了网上生活的新常态。

“与我的许多追随者不同，我并不教条地反对人工智能，”他说。“我反对为了快速娱乐和观看而制造的人工智能垃圾在线污染。”

顶级图片来源：BBC；使用 Adobe Firefly 生成的 AI 图像。

英国广播公司深度报道是网站和应用程序上提供最佳分析的主页，提供挑战假设的新鲜视角以及对当今最大问题的深入报道。艾玛·巴尼特和约翰·辛普森每周六都会带来他们精选的最发人深省的深度读物和分析。 在这里注册时事通讯