AI 接吻应用程序正在将 Deepfakes 纳入主流

使用人工智能制作人们亲吻任何人的虚假视频的应用程序的广告充斥着 TikTok 和 Instagram 等社交媒体平台。

_{经过拉什·施里瓦斯塔瓦, 福布斯员工}

中号eta 和 TikTok已经投放了数千个应用程序广告，这些应用程序使用人工智能生成人们的假接吻视频，允许用户上传任意两个人的照片，然后让人工智能将它们转换成他们接吻的视频。这些应用程序被作为工具进行营销，让你可以立即“亲吻任何你想要的人”，而无需征得同意。

概念类似于 –AI裸体器– 这些人工智能接吻应用程序会制作未经同意的深度伪造色情内容，它们会创建人们做一些他们没有做过的事情的可信视频。他们这样做的轻松程度令人担忧的是深度伪造图像的习惯化。

虽然这些广告并不像大量的色情广告那样露骨AI生成的色情内容国家性剥削中心的高管海莉·麦克纳马拉 (Haley McNamara) 表示，虽然 Instagram、Reddit 和 YouTube 等社交媒体平台已经席卷了这些平台，但它们也同样危险。福布斯。

“剥削不一定要明确，”麦克纳马拉说。– 如果在未经他人同意的情况下在线下对某人做一些事情（例如接吻、脱衣服等）是跨越界限的，那么在网上做同样的事情也是跨越界限的。”

Meta 已在 Instagram 和 Facebook 上展示了超过 2,500 个“人工智能接吻”应用程序的广告，福布斯审查发现。目前约有 1,000 人活跃。据其广告库显示，TikTok 已向欧洲国家数百万用户展示了约 1000 个广告。（TikTok 的广告库不包括向美国用户展示的广告）大多数广告都描绘了斯嘉丽·约翰逊、艾玛·沃特森和盖尔·加朵等名人互相接吻的场景。其他人则播放随机人物接吻的视频，宣传人工智能可以让你“亲吻你的前任”和“亲吻你的暗恋对象”。”目前还不清楚视频中的人是真实的还是人工智能生成的。约翰逊，沃森和加朵没有回应置评请求。未来主义首先报道了这些广告在社交媒体平台上的传播。

Meta 还在推广“AI 拥抱”应用程序，该应用程序的广告展示了由 AI 生成的儿童拥抱卡通人物（如爱探险的朵拉、米老鼠和汤姆和杰瑞）的视频。其中一些广告（例如显示年轻女孩拥抱年长男子的视频）向父母承诺，人工智能驱动的应用程序可以让他们的孩子“拥抱他们从未谋面的祖父母”。这家社交媒体巨头已经投放了约 1,200 个人工智能拥抱应用程序广告, 一个福布斯搜索发现。超过 300 人仍然活着。

– 这种趋势正在使剥削性深度假货正常化，并将未经同意参与亲密或性感图像视为笑话。 –

人工智能生成的人们接吻和拥抱的视频已经在社交媒体上流传。一段描绘泰勒·斯威夫特拥抱金正恩的视频在 Instagram 上的观看次数约为 3000 万次。12月底，一段埃隆·马斯克和意大利总理乔治亚·梅洛尼接吻的深度伪造视频在X上疯传。

Meta 发言人丹尼尔·罗伯茨 (Daniel Roberts) 表示福布斯这些“人工智能接吻”广告并不违反公司的政策。虽然裸体、露骨的性内容和性暗示内容不符合 Meta 的要求广告标准和 Meta 不允许出现“展示、鼓吹或与未经同意的各方协调性行为”的广告，并且允许出现亲吻和拥抱的视频。

联系后福布斯，TikTok 删除了违反其政策的广告。TikTok 发言人 Ariane de Selliers 表示，该视频共享平台要求广告商获得广告中代表的公众或私人人物的同意，即使广告是人工智能生成的福布斯。

根据网站显示，这些视频生成器背后的公司似乎总部位于美国以外的国家，例如阿拉伯联合酋长国、意大利和中国。这些应用程序可在 Apple 的 App Store 和 Google 的 Play Store 上免费下载，并且已经有数百万次下载。“人工智能接吻”功能是应用程序中更广泛的基于人工智能的照片编辑功能套件的一部分，例如修饰旧照片、将静态图像变成视频以及预测两个人未来的婴儿的样子喜欢。苹果和谷歌没有回应置评请求。

“遇到这种事真是令人毛骨悚然。”

在社交媒体病毒式传播的推动下，人工智能接吻应用程序的传播表明，在生成人工智能时代，深度造假的主流化令人不安。麦克纳马拉说，使用这些看似无害的应用程序可能会为创建更多图形图像的工具打开大门，例如深度伪造色情和其他类型的基于图像的性虐待。“这绝对是一个潘多拉盒子，”她说。

“这种趋势正在使剥削性深度假货正常化，并将未经同意参与亲密或性感图像视为笑话，”她说。——当你想到其他人时，这种事情很容易被轻视，但同样，如果你想到在你自己的领域里有人为你自己制作这样的图像，而你不希望有这样的人，我我认为每个人都可以认识到这是一种违规行为。”

当人工智能生成的非法儿童性虐待材料 (CSAM) 空前严重时，这一点尤其令人担忧。上升。在过去的两年里，国家失踪和受虐儿童中心（NCMEC）已收到 7,000 多份与人工智能生成相关的儿童剥削材料的报告。合而为一案件据称，一名恋童癖者在迪士尼乐园拍摄儿童，并使用流行的人工智能工具 Stable Diffusion 制作了数千张非法儿童图像。通过不受限制地使用人工智能图像生成器，多个青少年高中生实例为未成年同学制作了深度伪造的裸体图像，其中一些导致刑事指控。Meta 还努力监管此类人工智能“裸露”网站的广告，其中一个网站 90% 的流量来自 Instagram 和 Facebook。伪造的通讯。

在浏览社交媒体时遇到人工智能接吻广告的人表示，他们找到了这些广告令人不安的。去年 12 月，Alice Siregar 开始发现 TikTok 上人工智能接吻应用的广告有所增加。她本人是一家科技咨询公司的人工智能分析师，她对这项技术被以“极不道德”的方式使用感到沮丧。

“遇到这种事真是令人毛骨悚然，”她说。

更多来自《福布斯》的内容

福布斯Eric Sc​​hmidt 的新秘密项目是一个名为“Hooglee”的人工智能视频平台经过萨拉·爱默生福布斯五角大楼正在使用人工智能来审查员工——但前提是它通过了“妈妈测试”经过艾米莉·贝克-怀特福布斯投资者 200 亿美元押注“NeoClouds”推动人工智能军备竞赛经过伊恩·马丁福布斯这些初创公司正在确保人工智能公司为获取内容付费经过拉什·施里瓦斯塔瓦福布斯美国 100 强中型股：了解推动人工智能繁荣的公司经过汉克·塔克