这个故事是与 74 号,一个专注于美国教育的非营利性独立新闻机构。注册他们的早期学习子栈。

在视频中自五个月前发布以来，该视频已经播放了近 50,000 次，两个卡通儿童一起唱歌，引导观众在色彩鲜艳的乌托邦背景下体验乘坐汽车的体验。 

起初，视频看起来无害。这首歌欢快且内容丰富。动画与承诺的主题一致。 

不过，等一下，那些歌词只是说“红色意味着停止，绿色意味着正确”吗？为什么角色在每一帧中都在变化——不同的发型和颜色，女孩和男孩的服装略有不同？ 

最糟糕的是，对于一个声称具有“教育意义”的视频来说，其视觉效果恰恰传达了关于乘坐汽车的错误信息。 

视频一开始，孩子们没有系安全带，坐在一辆行驶中的车辆的前排。下一个场景显示，女孩违反物理原理，漂浮在一辆行驶中的汽车旁边，而男孩则坐在汽车引擎盖上，汽车沿着繁忙的街道向后行驶。

第三和第四个场景显示孩子们走在路中间，后面有行驶的汽车。 

不难想象该视频如何获得如此多的观看次数。 

也许父母需要完成一项任务——叠一些衣服、准备晚餐、冲个澡——并在 YouTube 上搜索适合孩子年龄的视频来在这短短的时间内娱乐他们的孩子。也许那个越来越独立且容易逃跑的幼儿需要更好地掌握道路安全。— 弗鲁姆 弗鲁姆！乘车歌曲|儿童教育童谣™ 是一个双赢的解决方案。 

但儿童媒体专家表示，这是人工智能产生的“马虎行为”，并且它已经渗透到互联网上，对幼儿及其毫无戒心的照顾者进行攻击。

天普大学 (Temple University) 心理学和神经科学教授、布鲁金斯学会 (Brookings Institute) 研究儿童发展的高级研究员凯西·赫什-帕塞克 (Kathy Hirsh-Pasek) 表示，“我们正处于一个巨大问题的开端，我们必须尽快解决它。” 

“我们正处于一个巨大问题的开端，我们必须尽快解决它。”

她和其他研究人员，包括芝加哥大学外科和儿科教授 Dana Suskind 博士，警告婴儿和儿童的人工智能衍生产品需要受到控制。 

“这不是中立的内容，”即将出版的书的作者苏斯金德说人类成长：人工智能时代培养联系、好奇心和终身学习。——我认为这是工业规模的幼儿人工智能错误信息。这对于正在发育的大脑来说非常危险。”

虽然说这种类型的内容有多普遍，但很明显这个问题很普遍，而且越来越严重。一报告视频编辑公司 Kapwing 于 2025 年 11 月发布的研究发现，YouTube 的源中约有 21% 包含人工智能生成的低质量视频。 

乔乔乐园，“Vroom Vroom！”的创造者Car Ride Song 自七个月前（2025 年 8 月）首次发布以来，已发布超过 10,000 个视频。平均每天约有 50 个新视频。芝麻街与此同时，在 YouTube 平台上的整个 20 年里，它已在 YouTube 上发布了约 3,900 个视频。

与人工智能废品的消费相关的认知能力下降——例如注意力持续时间缩短、注意力下降和精神迷雾——有时被称为“脑腐烂”。但苏斯金德说，当观众是孩子时，就没有什么可腐烂的了。她说，因为孩子的大脑仍处于早期发育阶段，仍在构建中，所以你所得到的只是“大脑发育迟缓”。

“每一次经历都在建立一百万个新的神经连接，”苏斯金德谈到还处于幼儿期的孩子时说道。“你会无意中以错误的方式连接大脑。”

这是有代价的。卡拉·恩格尔布雷希特 (Carla Engelbrecht) 为《芝麻街》、PBS Kids 和《Highlights for Children》等儿童媒体品牌创造了数字体验，她认为自己是一名人工智能教育者和创造者。

恩格尔布莱希特也是告密者当谈到以儿童为目标的人工智能时。她发现了无数人工智能生成的视频可能造成真正身体伤害的例子。

“我发现的内容越多，”她说，“我就越感到害怕。”

其中包括以下视频：害怕的孩子被霸王龙追赶；爬行宝贝咬一口看起来带血的苹果，吞下整个葡萄（重大事件）窒息危险）和吃蜂蜜（这可能带来致命的风险婴儿肉毒杆菌中毒）和一个老师吃生接骨木浆果（未煮熟时有毒）。

但还有另一个她说，人工智能在儿童媒体中的应用范围很广，其后果更难以捕捉。这些视频声称与学习和发展有关，重点关注识字和算术等主题，但由于制作速度快且缺乏质量检查，它们最终引入或执行了错误的课程。有时，错误直到内容进行到一半时才会出现。这意味着，如果家长预览视频的前几秒钟，他们可能会错过剪辑中稍后出现的不可靠信息。一个视频

关于元音包括辅音的视觉效果。它还在屏幕上描绘了与音频覆盖不对齐的字母。一个视频承诺教授约50个美国。当屏幕底部的文字中出现被屠杀的州名时，各州一起唱着——里比奥岛、康涅狄格州、奥克洛洛迪亚、洛吉斯利亚。一个视频关于七大洲的指南针经常显示有四个以上的点和难以辨认的符号，其中“N”、“S”、“E”和“W”应该在哪里。

这些可能看起来像是机器上的愚蠢的纸条，但对于一个孩子来说，每个恩格尔布雷希特解释说，“输入”是他们学习过程的一部分。“混合信号意味着你正在延迟他们了解事情的因果关系，”她说。– 如果您知道红色是蓝色，蓝色是红色，那就是延迟。 –

“如果你前后矛盾，就需要更长的时间来学习，”她补充道。——他们的每一次延误都意味着其他一切都会被推迟。这就是让他们的执行功能离线，去学习废话。”

在所有这些互联网混乱中，责任问题是一个棘手的问题。

“从根本上来说，每个人都有责任，”Engelbrecht 说，包括 YouTube 等平台；运营大型语言模型的公司，例如 OpenAI、Google 和 Anthropic；制作和发布这些旨在吸引儿童的低质量视频的人；和父母。 

YouTube 当前的政策要求创作者披露由人工智能生成或修改的视频（当内容看起来很真实时）。这不适用于卡通片和动画内容恩格尔布莱希特解释说，“这似乎是儿童接触到的大部分内容”，因为长期以来人们一直认为这些内容是虚构的。 

该平台确实有更严格的规定——质量原则YouTube 发言人布特·布尔温克尔 (Boot Bullwinkle) 在一份声明中表示，针对儿童的内容比针对一般观众的内容更重要。它还具有一个 –儿童安全政策（但是，这些网页并未专门讨论人工智能的使用。）

由于该平台上的内容量很大，YouTube 不会捕获所有违反其政策的视频。（它确实对该平台上的至少七个频道采取了行动，以回应74 年代报告，包括终止两个。） 

“我们非常重视家长和家人对 YouTube 的信任，并且在适合年龄的环境方面进行了大量投资，以增强家长的能力。”

“父母和家庭对 YouTube 的信任是我们非常重视的责任，并且我们在适合年龄的环境上进行了大量投资，以赋予父母权力，”布尔温克尔在声明中写道。– 例如，YouTube Kids 提供业界领先的家长控制和严格的质量原则旨在为家庭提供更安全的体验。 –

YouTube Kids 是该平台的一个独特版本，专为 0 岁到 12 岁的儿童精心策划内容。不过，许多家庭继续使用 YouTube 主平台观看儿童内容，这意味着许多创作者仍然拥有观众和赚钱机会。尽管最近在 YouTube Kids 上找不到为此故事审核的人工智能生成视频报告在纽约时报发现人工智能视频也渗透到了这个领域。儿童媒体制作公司 Boone Productions 的执行制片人塞拉·布恩 (Sierra Boone) 指出，YouTube 的儿童友好型竞争对手包括

感性的由常识媒体和米维，确实存在。但他们一直在努力闯入家庭。 

“克服这一困境极其困难，”Engelbrecht 谈到 YouTube 时说道。“创建安全的 YouTube 替代品的尝试失败了，简直就是一座坟墓。”

布恩建议，一些有效的标签会大有帮助，就像“内容凭证LinkedIn 正在逐步采用，其目的是在人工智能部分或全部创建或编辑媒体时进行披露。 

Engelbrecht 认为标签是个好主意，不仅因为它们对于人工智能素养很重要，而且她还认为，标签会惩罚像她这样在工作中“深思熟虑”使用人工智能的创作者。（她是发展中等项目中，还有一个人工智能工具，可以检测 YouTube 上儿童视频中的人工智能缺陷。）

至于视频背后的人，其中一些来自海外，但很多是本土制作的，是由可以使用手机或电脑的美国人制作的，正如布恩所说，他们只是想“赚快钱”。 

这些人经常在整个过程的每一步都使用人工智能——为儿童视频开发主题和脚本、生成视频以及自动执行定期发布内容的过程——Faceless – YouTube 频道恩格尔布莱希特解释说，其中的创作者是匿名的，并且没有出现在镜头前。

一年多前，一位受欢迎的内容创作者在 YouTube 上发布了一段视频，在视频中她对“巨大的机会”赞不绝口，这将导致“许多百万富翁”。机会？没有经验的用户只需几分钟的简单提示即可创建人工智能生成的动画视频。目标受众？年幼的孩子们。 

该视频的观看次数已超过 335,000 次。 

“总的来说，人工智能本身并没有好坏之分，但它暴露了人们的意图，”布恩说，他的制作工作室负责午睡秀. . . 

她补充说，大量人工智能生成的内容表明，有多少人“不关心儿童或他们受到的影响”，只要对他们有利即可。

对于布恩来说，她与她的团队在每一集中都煞费苦心地工作午睡秀– 研究、编写剧本、编辑剧本、放置道具、读表、去布景、拍摄、编辑视频、发布和推广最终产品 – 创建儿童媒体是一种应该认真对待的“荣誉”。 

“创造儿童媒体的基础是创造孩子在其核心发展阶段会消费的东西，”布恩说。——那么您对此的意图程度如何？我认为我们需要让上传此内容的人承担更多责任。”

但最终，在缺乏更多监管或内容审核的情况下，负担落在了父母身上。 

萨斯金德说，父母可能首先把 YouTube 视频放在孩子面前，因为“他们已经很紧张了”。她仍然在儿科诊所看望病人，并经常与家人互动。因此，要求他们更密切地监控孩子屏幕上的内容本身就具有挑战性。 

赫什-帕塞克说，但这就是必须要做的事情。在出现更好的解决方案之前，父母有责任将废品与“好东西”分开。

“为了我们的孩子，我们有责任保护他们，”赫什-帕塞克说。——这就是他们对父母的期望，让他们呆在安全的地方。如果我们不处理这个问题或采取任何行动，我们就逃避了我们的责任。”