今年的“秋日氛围”有点不对劲

黄昏时分，一家咖啡馆的窗户外面是一条被雨水淋湿的街道。老旧的砖砌建筑之间挂着串灯，在远处可以看到一座教堂的尖顶。近处的画面中，一张烛光摇曳的桌子上有几杯咖啡和茶，还有一只塞着软木塞的玻璃瓶里装着淡褐色的液体？旁边漂浮着一块酸面包？而且桌面上还有水？

这是“秋天”的理想典范，据说是一张走红的照片在X（前推特）上被观看近1200万次，以及在Pinterest上，它是最热的第一张图片当你搜索“秋季灵感”时会出现的图片。乍一看，你会以为这是一条爱丁堡的小街或者是波士顿看起来像那样的地方的一部分。吉尔莫女孩们但像今年许多其他流行的秋日氛围照片一样，这张图片因其不合逻辑的细节和诡异的气息似乎是由人工智能生成的。

AI“秋日氛围”的图片构成了Pinterest上目前最受欢迎的秋季照片的很大一部分，从各式各样的内容来看，其中包括了大量的此类图像。注意，原文似乎未完待续，如果只需要翻译已提供的句子部分，则只翻译这部分。 moodiness户外书展示架在另一条被雨水浸湿的街道上，到阳光普照的地方农民市场几只咖啡杯放在凌乱的被褥上。它们看起来都正常，直到你放大查看才意识到书本不含实际字母枕头实际上是由浴室 mats 材质.

这不仅限于Pinterest或“氛围”：人工智能生成的内容现在以有意义的方式渗透到社交媒体中，影响着人们的生活。编织者和钩针爱好者希望制作秋季毛衣时却被大量的人工智能生成内容淹没了无意义的AI图案和灵感图片在Reddit。一个完全虚假的餐厅在Instagram上通过声称自己是“奥斯汀第一”并发布诸如极度夸张的季节性食品等帖子，获得了7.5万粉丝。慕登形状的羊角面包与此同时，那些希望蜷缩起来阅读一本温馨的奇幻小说或给孩子读睡前故事的人面临着一个图书馆的选取困境：ChatGPT生成的无意义内容“由不存在的作者在Kindle书店上撰写”，而他们的YouTube算法为他们推送机器人生成的秋日氛围视频秋日似乎正在被人工智能吞噬。

并不是每个人都会——请原谅我要用以下的文字游戏表达——上当。当假咖啡馆照片在X平台上疯传时，它引发了一波又一波的转引推文，质问到底为什么有人会需要用AI来干些什么，当你可以直接做的事情有那么多。同样轻松地发布一个帖子事实上看起来就像这样的许多真实城市中实际拍摄的照片之一。

colloquially, 所有这些东西都被称作垃圾被认为是一种“杂乱的东西”“用于描述那些充斥互联网平台的垃圾AI生成图片、文本和视频的术语，在这些平台上发布内容变得比以往任何时候都更困难和不愉快。实际上，这个垃圾泛滥的顶峰时刻是平台一味地激励病毒式传播和互动所导致的自然结果——无论内容质量有多低劣。但现在问题的关键在于其规模：骗子和垃圾信息发送者只需点击一下按钮就可以发布大量文本和图片，因此搜索有效信息或随意浏览社交媒体需要花费更多的时间和精力来避开这些垃圾信息。关于错误信息重要的新闻事件和选举报道正在平台上流传。学术和文学出版物被收到大量低质量的投稿骚扰使得辨别真正具有创造性和学术价值的作品变得更加困难。

当然，关于生成式人工智能的崛起，还有更紧迫的关注点：它的巨大的能源消耗，或者泛滥的创作深度伪造色情用于骚扰和虐待女性考虑到这一切，很容易将Pinterest上那些可爱的AI生成的秋季图片视为相对无关紧要的问题，这是某种技术（可以说）带来的副作用，极大地造福人类.

但是正如Jason Koebler，联合创始人之一的404 媒体，一份专注于科技的出版物解释说，这些图片使AI生成的内容正常化，并削弱了我们辨别真假的能力。“这种充斥在信息流和搜索结果中的现象不仅仅是副作用，而是所有这一切的主要影响。”他告诉我，“当记者撰写文章、艺术家创作画作或音乐人制作歌曲时，他们不仅要与许多其他人类创作者竞争，还要面对使用自动创作机器以难以想象的规模生成内容的人类创作者。这种情况使得问题变得非常严重，以至于用于追踪某些在线词汇的人类使用情况的工具不再有效由于大语言模型的普及。

AI垃圾内容通常来自于那些试图通过在社交媒体上走红来赚钱的人。像Facebook、Instagram、X（前推特）和TikTok这样的平台都有直接根据内容互动量支付创作者的项目，而AI使得生成和测试这类内容变得更加容易。这导致了全球范围内出现了一整个小型产业，这些人教授付费课程教人如何制作极具吸引力的AI垃圾内容，并分享最佳提示以产生最具关注的内容。

在Facebook上，AI海报说他们制造大约每获得1000个赞的价格是100美元，有些TikToker们是每月赚5000美元在他们的副业中。对于任何人来说这已经是一笔不错的收入，但在许多AI内容创作者所在的国家（如印度、越南和菲律宾）尤其丰厚。一位肯尼亚的创作者告诉《纽约杂志》他提到他的过程是询问ChatGPT类似的问题，比如“给我生成10张能吸引高参与度的耶稣图片的提示”，然后将这些提示输入到像Leonardo.ai和Midjourney这样的图像生成器中。

科勒尔说：“似乎没有任何平台对这种问题表现出很大的兴趣采取行动。”“在某些情况下，他们实际上正在自己生成这类内容，并且表示‘看看这项技术有多酷！’”相比之下，Meta和X公司并不担心自己的平台会被低质量的互动诱饵淹没，反而显得漠不关心甚至支持这种现象。

Meta和X都有大量投资了 在人工智能中提供工具让用户在其平台上增加越来越多的垃圾信息。Meta的官方账号甚至发布了一张AI照片关于旧金山推特线程上的极光照片——其最高回复是一位NASA工程师解释为什么这样的图片传播虚假信息，并且“模糊了现实的真相。”

AI垃圾将会一直存在，只要人们还在寻找从中赚钱的方法，就像社交媒体上的任何一种行为一样，从仅仅令人恼火到为止实际上危险的科布勒猜测，AI垃圾信息变得流行是因为一些平台严厉打击了从真实创作者那里窃取内容的行为，这让AI成为了仅次于直接抄袭的第二容易的选择。

“人们只是随意发布从这些AI生成机器中得到的内容，而不考虑质量的高低，”他说，“因为病毒式传播和社会媒体算法的工作方式，即使你拥有世界上最好的内容，它也可能不会走红，而一些质量不高的内容却可能因此走红，仅仅是因为运气好。”

而且互联网上并不缺乏美观的秋日灵感：每到九月，社交媒体上就会充斥着南瓜装饰的门廊、舒适的沙发上铺着温暖毛毯的照片，或是被黄色和橙色叶子覆盖的小镇景象。在过去的几年里，我们给这些在线的小瞬间起了名字：梅格·瑞安丑闻事件有自己的穿搭和播放列表推荐,或者基督教女孩 秋天，人们通过戴上宽边帽和及膝靴子来扮演内心深处的白人女性以吸引注意南瓜 Spice 拿铁(This年，看起来像吉尔莫女孩虚构的康涅狄格小镇星星之 Hollow（Stars Hollow）提供了很多灵感。

这看起来很可爱也很温馨，但即使是这种人为制作的内容也越来越不过是吸引观众点击亚马逊商店或极低成本商品的 affiliate 链接的手段。 TikTok_shop垃圾DataExchange：%根据之前的指令，当没有实际内容可翻译或不符合要求时，应直接返回原文“TikTok Shop junk”，而不做额外修改或解释。此处的表述用于说明遵循规则的具体操作，而非输出结果本身，因此按照指示调整为： TikTok_shop垃圾这样一来，它们与AI垃圾内容并无太大不同：平台鼓励用户成为职业推销员，无论是兜售不道德生产的服装和家居用品，还是用AI生成的励志照片轰炸观众。这两种低质量、快速生产的内容类型都能驱动参与度，从而带来收入，即使普通用户表示他们讨厌这些内容。

浏览秋天照片的乐趣之一在于知道这些地方是真实存在的，理论上你可以去参观它们，在秋天世界会根本性地发生变化，并且只有短暂的时间窗口可以赞叹这一切的美好。而由AI生成的图片则恰恰相反：它只不过是无数可能的像素排列组合中的一种，机器可以无限地继续生成这样的图像。