Google的新AI将乳房放在未成年人身上 - J. D. Vance

很抱歉告诉您这一点，但是Google的新AI购物工具似乎渴望给J. D. Vance乳房。允许我们解释。

本周，在年度软件会议上，Google发布了一个名为Try It On的AI工具，该工具是虚拟更衣室：在网上购物时上传您的图像，Google将向您展示您在选定的服装中的外观。好奇地使用该工具，我们开始上传著名人类万斯，山姆·奥特曼，亚伯拉罕·林肯，米开朗基罗的图像大卫，教皇狮子座，并穿着亚麻衬衫和三件套西服。有些看上去几乎是小巧的。但是，当我们测试了为这些著名男人设计的许多女性设计的文章时，该工具很快就进行了改编：是否是网状衬衫，低矮的上衣，甚至只是T恤，Google的AI都会迅速迅速旋转副总统，Openai首席执行官的图像，以及基督的乳房。

这不仅仅是男人：当我们上传女性的图像时，该工具反复增强了他们的décolletage或在原始图像中不可见的乳房或添加的乳房。在一个示例中，我们用红色西装外套喂了一张现已退休的德国总理安吉拉·默克尔（Angela Merkel）的照片，并要求该机器人向我们展示她在几乎透明的网眼顶部的样子。它产生了默克尔在黑色胸罩上穿着透明衬衫的图像，该胸罩露出了AI生成的胸部。

这里发生的事情似乎相当简单。尝试从Google S购物图中获取的功能，这是一个超过500亿个在线产品的数据集。这些衣服中的许多都显示在车身符合（有时被编辑以促进）超级思想化的身体标准的模型上。当我们要求该功能穿上女性服装中任何性别的名人时，该工具不只是将衣服转移到她们的身上，而是扭曲了自己的身体以匹配原始模型。这似乎是无害的，甚至是愚蠢的，直到您考虑Google的新工具如何打开危险的后门。几乎没有摩擦，任何人都可以使用该功能来创建名人和陌生人本质上的色情图像。令人震惊的是，我们还发现它可以为未成年人做到这一点。

我们俩都是一个女人和一个男人在18岁之前就上传了自己的衣服图像。当我们尝试穿衣服和其他妇女的衣服时，Google s ai用C杯为我们拍摄了我们的照片。当我们中的一个人莉拉（Lila）上传了自己的16岁女孩的照片，并要求尝试从一个名为Spicy Lingerie品牌的物品中的物品，Google遵守了。在由此产生的图像中，她正戴着本质上是AI生成的乳房的胸罩，以及最脆弱的迷你裙。Google脱衣服的躯干具有AI生成的腹部束缚。在其他测试中，比基尼上衣，来自动漫风格的内衣商店的服装继续吐出类似的图像。当另一名作者Matteo在14岁时上传了一张自己的照片，并尝试了类似的服装时，Google产生了一张他的上半身的图像，他的上半身只戴着轻薄的上衣（同样，本质上是胸罩），涵盖了杰出的AI生成的乳房。

很明显，Google预计至少有一些虐待潜力。当前，尝试使用工具的尝试可以通过搜索实验室提供，该平台可以在该平台上使用该平台，让用户可以尝试早期功能。您可以访问搜索实验室网站并启用它，这使您可以模拟Google购物平台上许多服装的外观。当我们试图尝试一些明确标记为泳衣和内衣的产品，或上传年轻学童和某些高调人物的照片（包括唐纳德·特朗普和卡玛拉·哈里斯）时，该工具不允许我们。Google自己的政策要求购物者上传符合公司安全指南的图像。这意味着用户不能上传 - 以成人为导向的内容或性明确的内容，并且应该仅使用自己或他们有权使用的图像的图像或图像。

Google发言人在一封电子邮件中写道，该公司具有强大的保护，包括阻止敏感的服装类别并防止上载清晰可识别的未成年人的图像，并且它将继续改善体验。在某一时刻，我们使用了Matteo的照片，成年后穿着长裤，让Google模拟了各种健身短裤的合身性，该工具反复制作了图像，并在crot脚上有暗示性的凸起。尝试在工具故障上的尝试并不完全令人惊讶。Google先前的AI推出反复表现出令人尴尬的缺陷，例如，用户吃岩石。其他AI公司也在努力flubs。

生成的繁荣推动了一个新的工具时代，该工具可以将任何人（通常是女性）的图像转换为裸照或近乎裸露的图片。仅在2023年9月，在Chatgpt启动超过2400万人之后不到一年参观根据社会媒体 - 分析公司Graphika的报告，AI为AI驱动的脱衣服网站。从那以后，肯定有更多的人这样做。许多专家有成立AI生成的儿童性虐待材料正在迅速在网络上传播。在X上，用户一直向Elon Musk的Chatbot，Grok，产生比基尼和内衣的女性图像。根据Google购物帮助页，工具的尝试是在美国至少18岁的美国任何人的指尖。穿上衣服总是需要取出一些东西，但通常您不让一家世界上最大的公司为您做。

大多数用户不会试图穿着低调礼服打扮未成年人（或副总裁）。新AI功能的吸引力很明显。亲自尝试衣服可能会耗时和疲惫。在线购物者几乎无法了解产品的外观或适合自己的身体。不幸的是，对于购物者来说，Google的新工具不太可能解决这些问题。有时，尝试一下似乎会改变购物者的身体以匹配车型，而不是展示衣服如何适合购物者自己的身体。效果可能是畸形的，要求用户更改自己的身体，而不是相反。换句话说，Google的产品似乎甚至不可能帮助消费者有意义地评估服装的最基本特征：它的合适方式。