OC

Knowledge OS
鹦鹉螺口语
研究发现,人工智能生成的儿童性暗示视频在 TikTok 上获得了数百万个赞美国有线电视新闻网商业频道
2025-12-11 12:01:23 · 英文原文

研究发现,人工智能生成的儿童性暗示视频在 TikTok 上获得了数百万个赞美国有线电视新闻网商业频道

作者:Clare Duffy

纽约~ 

一家在线安全非营利组织的最新研究显示,人工智能生成的视频显示了穿着性感服装或姿势的未成年女孩,这些视频在 TikTok 上累计获得了数百万个点赞,尽管该平台的规则禁止此类内容。

研究人员发现,有十多个账户发布了人工智能生成的女孩穿着紧身衣服、内衣或校服的视频,有时还做出挑衅性的姿势。这些账户加起来有数十万粉丝。报道称,许多视频的评论都包含消息平台 Telegram 上的聊天链接,该平台提供购买儿童色情内容的服务。

据 Carlos Hernández-Echevarra 称,截至周三晚间,仍有 13 个账户保持活跃,其中 15 个账户上周通过 TikTok 报告工具被标记。马尔迪埃斯。这家总部位于西班牙的非营利组织周四发布了这份报告,该组织致力于研究在线虚假信息并促进媒体透明度。

该报告对 TikTok 是否有能力执行自己的人工智能内容政策提出了质疑,即使这些内容似乎显示了计算机生成的色情图像。 孩子们。随着越来越多的司法管辖区通过在线安全立法,包括本周生效的澳大利亚 16 岁以下社交媒体禁令,包括 TikTok 在内的科技平台面临着越来越大的保护年轻用户的压力。

“这根本没有细微差别,”埃尔南德斯-埃切瓦拉告诉 CNN。“你知道,没有人会觉得这很恶心并希望将其删除。”

TikTok 表示,它对“展示、宣传或参与青少年性虐待或性剥削”的内容采取零容忍政策。其社区准则明确规定禁止“账户的重点是人工智能拍摄的穿着成人服装的年轻人的图像,或者性感的姿势或面部表情。”其政策的另一部分TikTok 不允许“涉及年轻人的性内容,包括任何显示或暗示虐待或性活动的内容”,其中包括“人工智能生成的图像”和“任何使年轻人身体性感化或迷恋的内容”。

该公司表示,它结合使用视觉、音频和文本工具以及人工团队来管理内容。据该公司称,2025 年 4 月至 6 月期间,TikTok 删除了超过 1.89 亿个视频,并禁止了超过 1.08 亿个账户。该公司表示,99% 的违反其裸体和身体暴露政策(包括青少年)的内容被主动删除,97% 的内容违反其人工智能生成内容政策被主动删除。

TikTok 发言人没有针对该报道发表评论。

Maldita.es 通过测试帐户发现了 TikTok 视频,该帐户用于监控潜在的虚假信息或其他有害内容,作为其工作的一部分。

“我们的一名团队成员开始看到这种趋势,这些(人工智能生成的)非常非常小的孩子打扮成成年人,特别是当你进入评论时,你可以看到其中存在一些金钱激励,”埃尔南德斯-埃切瓦拉说。

报告称,一些账户在个人简介部分将自己的视频描述为“漂亮的高中女生”或“初级模特”。“甚至更微妙的视频,比如年轻女孩舔冰淇淋的视频,也充满了粗俗的性评论,”它指出。

Hernández-Echevarra 表示,在某些情况下,账户持有人使用 TikTok 的“AI Alive”功能(可将静态图像动画化)将 AI 生成的图像转换为视频。他说,其他视频似乎是使用外部人工智能工具创建的。

报告称,许多视频的评论都包含宣传儿童色情内容的私人 Telegram 聊天链接。

“一些账户回复了我们在 TikTok 上的直接消息,其中包含指向外部网站的链接,这些网站出售人工智能生成的色情未成年人视频和图像,价格从 50 到 150 欧元不等,”报告指出。

研究人员没有跟进任何交易,该组织向西班牙警方报告了这些网站和 Telegram 账户。

“Telegram 完全致力于防止儿童性虐待材料 (CSAM) 出现在其平台上,并执行严格的零容忍政策,”Telegram 发言人雷米·沃恩 (Remi Vaughn) 在给 CNN 的一份声明中表示。– Telegram 会根据版主删除的 CSAM 数据库扫描所有上传到其公共平台的媒体,以防止其传播。虽然没有加密平台可以主动监控私人群组中的内容,但 Telegram 接受来自世界各地非政府组织的报告,以执行其服务条款。

沃恩表示,到 2025 年,Telegram 已删除了超过 909,000 个与儿童性虐待内容相关的公共团体和频道。

该组织表示,它于 12 月 2 日星期二通过 TikTok 的报告工具向 TikTok 标记了 15 个账户和 60 个视频,将它们归类为“青少年的性暗示行为”。报告称,这些账户总共拥有近 30 万粉丝,其中 3,900 个视频的点赞总数超过 200 万。

Maldita.es 表示,截至周五,TikTok 回应称,其中 14 个账户没有违反其规则,其中一个账户已被“限制”。报告称,该组织对每一项决定都提出了上诉,但“在对每一起案件提出上诉后整整 30 分钟”,TikTok 重申了其最初的决定。

在该组织举报的 60 个视频中,TikTok 周五回应称,其中 46 个视频没有违反其政策,并删除或限制了 14 个视频。在研究人员上诉后,TikTok 又删除了 3 个视频,并限制了另一个。目前尚不清楚视频限制与删除有何不同。

据该组织称,在这些未被删除的视频中,有一段是人工智能生成的年轻女孩在淋浴时衣着暴露的画面,以及其他人工智能生成的图像,这些图像似乎显示年轻女孩穿着内衣或比基尼摆出挑衅的姿势。

“人类绝对不可能看到这一点并且不明白正在发生什么,”埃尔南德斯-埃切瓦拉说。– 评论超级粗俗,全是地球上最恶心的人在发表评论。 –

截至周三,TikTok 内容审查流程此前表明没有违反规定的至少一个账户和一个视频已不再可用。埃尔南德斯-埃切瓦拉表示,尚不清楚为什么它们在首次被报道时没有被删除。

周四的报告是在单独研究英国非营利组织全球见证组织 (Global Witness) 10 月发布的报告发现,TikTok 通过建议的搜索词将年轻用户引导至露骨的色情内容。该报告发现,TikTok 的搜索向自称年龄为 13 岁、在“受限模式”下浏览的用户建议了“高度色情”的词语。TikTok 回应称,它已删除了违反其政策的内容,并对其搜索建议功能进行了改进。

关于《研究发现,人工智能生成的儿童性暗示视频在 TikTok 上获得了数百万个赞美国有线电视新闻网商业频道》的评论

暂无评论

发表评论

摘要

一家在线安全非营利组织的一项新研究显示,人工智能生成的视频(其中包含穿着性感服装的未成年女孩的视频)在 TikTok 上获得了数百万个赞,尽管该平台禁止此类内容。研究发现,十多个拥有数十万粉丝的账户发布了这些视频,其中一些与通​​过 Telegram 销售儿童色情内容等非法活动有关。尽管有 13 个账户在通过 TikTok 的报告工具标记后仍然活跃,但该报告质疑 TikTok 对人工智能生成的儿童色情图片的执法能力。TikTok 报告称,2025 年 4 月至 6 月期间删除了超过 1.89 亿个视频,并禁止了超过 1.08 亿个帐户,但因其对本案中标记内容的处理而受到批评。