数百个帐户抖音一份报告称，通过发布人工智能生成的内容，包括反移民和色情内容，获得了数十亿的浏览量。
研究人员表示，他们发现了 354 个专注于人工智能的账户，这些账户使用生成式人工智能工具发布了 43,000 个帖子，并在一个月内积累了 45 亿次浏览量。
据总部位于巴黎的非营利组织 AI Forensics 称，其中一些账户试图通过发布大量内容来玩弄 TikTok 的算法（该算法决定用户看到什么内容），希望这些内容能够像病毒一样传播。
其中一个每天或同一时间发布的帖子多达 70 次，这表明这是一个自动帐户，而且大多数帐户都是在年初启动的。
上个月，TikTok 透露该平台上至少有 13 亿条人工智能生成的帖子。每天有超过 1 亿条内容上传到该平台，这表明带有人工智能标签的内容只是 TikTok 目录中的一小部分。TikTok 还为用户提供了减少使用次数的选项他们看到的人工智能内容数量。
在最频繁发布内容的帐户中，有一半关注与女性身体相关的内容。“这些人工智能女性总是具有典型的吸引力，穿着性感的服装或乳沟，”报告称。
AI Forensics 发现，这些账户有一半的内容没有贴上标签，只有不到 2% 的账户带有人工智能内容的 TikTok 标签，该非营利组织警告称，这可能会增加这些材料的欺骗性。研究人员补充说，尽管发布的内容受到 TikTok 服务条款的禁止，但这些账户有时会在几个月内逃脱 TikTok 的审核。
研究人员表示，研究中披露的数十个账户随后被删除，这表明其中一些账户已被管理员删除。
一些内容采用虚假广播新闻片段的形式反移民叙事以及使女性身体性感化的物质，包括看起来未成年的女孩。AI Forensics 表示，在最活跃的 10 个账户中，女性身体类别占据了一半，而一些假新闻则以天空新闻和美国广播公司等知名广播品牌为特色。
部分帖子经《卫报》转介至 TikTok 后已被 TikTok 删除。
TikTok 表示，该报告的说法“未经证实”，研究人员将其挑出是因为一个影响多个平台的问题。八月，《卫报》透露，全球增长最快的 YouTube 频道中近十分之一是仅显示人工智能生成的内容。
“在 TikTok 上，我们删除了有害的 AIGC（人工智能生成的内容），阻止创建数亿个机器人帐户，投资行业领先的人工智能标签技术，并为人们提供工具和教育，以控制他们在我们平台上体验这些内容的方式，”TikTok 发言人表示。
AI Forensics 在观点方面强调的最受欢迎的账户发布了“slop”，这个术语指的是人工智能制作的内容，这些内容无意义、怪异，旨在扰乱人们的社交媒体信息流，例如参加奥运会跳水比赛的动物或会说话的婴儿。研究人员承认，一些废话内容“有趣”且“可爱”。
时事通讯促销后
TikTok 指南禁止使用人工智能描绘虚假的权威来源、18 岁以下青少年的肖像或非公众人物的成年人的肖像。
研究人员表示，“对[自动帐户]的调查显示了人工智能内容现在如何集成到平台和更大的病毒式生态系统中。”
– 平台上真实的人类内容和人工智能生成的合成内容之间的界限越来越模糊，这标志着用户提要上更多由人工智能生成的内容的新转变。 –
研究人员分析了八月中旬至九月中旬的数据。一些内容试图从用户身上赚钱，包括通过虚假影响者推销保健品、推广有助于制作病毒式人工智能内容的工具以及寻求帖子赞助。
AI Forensics 也强调了 Instagram 上人工智能内容的盛行，它表示欢迎 TikTok 让用户限制他们看到的人工智能内容数量的决定，但标签必须改进。
“鉴于识别此类内容的结构性和不可忽视的失败数量，我们仍然对该功能的成功持怀疑态度，”他们说。
研究人员补充说，TikTok 应考虑在应用程序上创建仅限人工智能的功能，以便将人工智能制作的内容与人类创建的帖子分开。“平台必须超越弱或可选的“人工智能内容”标签，并考虑将生成内容与人类创造的材料分开，或者找到一个公平的系统来强制对人工智能内容进行系统和可见的标签，”他们说。