OpenAI 的 Sora 2 可以生成名人大声喊出种族歧视的视频
2025-10-23 17:09:59
OpenAI 的 Sora 2 AI 视频生成模型面临版权侵权以及涉及历史人物和名人的深度伪造问题。尽管采取了初步措施来缓解这些问题,但该平台上仍然存在令人不安的内容,包括描绘公众人物吐露仇恨种族主义绰号的深度伪造视频。Copyleaks 发现了一种类似于“Kingposting”的趋势,用户提示 Sora 生成涉及可识别个人的攻击性模因。这些视频可以通过编码语言绕过仇恨言论过滤器,并在应用程序之外轻松共享,从而造成严重的病毒传播和损害。该报告强调,人工智能视频的生成速度已经超过了人们检测操纵的能力,引发了人们对假新闻和极端主义宣传的担忧。开放人工智能