我们可以相信我们的眼睛吗？苹果新的AI清理工具的阴暗面

您可能已经看到苹果推广其新的广告清理功能可以用来删除照片中的元素。当这个周末其中一个广告引起我的注意时，我很感兴趣并更新了我的软件来尝试一下。

自12月以来，该功能已在澳大利亚提供，供某些具有一定的苹果客户硬件和软件功能。它也适用于新西兰，加拿大，爱尔兰，南非，英国和美国的客户。

该工具使用生成性人工智能（AI）分析场景并提出可能分散注意力的元素。您可以在下面的屏幕截图中看到突出显示的内容。

然后，您可以点击建议的元素将其删除或圆元素删除它们。然后，该设备使用生成AI尝试根据周围区域创建逻辑替代品。

更轻松的欺骗方法

智能手机照片编辑应用程序已经存在了十多年，但是现在，您无需下载，付费或学习使用新的第三方应用程序。如果您有合格的设备，则可以直接在智能手机的默认照片应用程序中使用这些功能。

苹果的清理加入了许多各种科技公司已经提供的类似工具。那些使用Android手机的人可能已经使用了Google魔术编辑。这使用户可以使用AI移动，调整大小，重新着色或删除对象。用户选择三星设备可以使用他们的内置照片库应用程序删除照片中的元素。

始终有一些类似的方法，而最近，数字化欺骗。但是，以免费，易于使用的方式将它们集成到现有软件中，使这些可能性变得更加容易。

使用AI编辑照片或完全创建新图像会引起有关照片和视频的可信度的紧迫问题。我们依靠这些设备在从警察机构和交通柜上到保险索赔以及验证包裹的安全交付的各种愿景。

如果技术进步正在侵蚀我们对图片甚至视频的信任，我们必须重新考虑信任我们的眼睛的含义。

如何使用这些工具？

消除分心或不必要元素的想法可能会很有吸引力。如果您曾经去过一个拥挤的旅游热点，请删除其他一些游客，以便您可以更多地专注于环境可能会吸引（下面的图像前后）。

但是，除了消除分心之外，还可以如何使用这些工具？

有些人用它们去除水印。摄影师或试图保护其工作免受未经授权使用的摄影师或公司通常添加了水印。删除这些使未经授权的使用不太明显，但合法性也不是法律。

其他人则用它们来改变证据。例如，卖方可能会编辑损坏的好处的照片，以指控它在运输前状况良好。

随着图像编辑和生成工具变得更加普遍，更易于使用，用途列表气球成比例。其中一些用途可能是不愉快的。

人工智能发电机现在可以使外观逼真收据， 例如。然后，人们可以尝试将其提交给雇主，以偿还实际上没有产生的费用。

我们看到的任何东西都可以被信任吗？

考虑到这些事态发展，拥有某些“视觉证明”意味着什么？

如果您认为可能会编辑照片，那么放大有时会揭示AI塞满的异常情况。这是清理功能生成的新内容的一些区域的缩放版本，这些内容与旧内容完全不匹配。

通常，操纵一个图像要比以相同方式令人信服地编辑同一场景的多个图像要容易得多。因此，要求查看多个从不同角度显示相同场景的餐厅可能是一个有用的验证策略。

看到自己的眼睛可能是最好的方法，尽管这并不总是可能。

进行一些额外的研究也可能有所帮助。例如，对于假收据的情况，餐厅甚至存在吗？它在收据上显示的当天开放吗？菜单是否提供据称出售的商品？税率与当地的税率相匹配吗？

手动验证方法如上所述显然需要时间。可以自动化这些平凡任务的可信赖系统可能会随着AI编辑和发电增加的风险而受欢迎。

同样，也有一个监管机构扮演的角色在确保人们不要滥用AI技术。在欧盟中，苹果公司计划推出其苹果情报功能（包括清理功能），这被推迟了。监管不确定性”。

人工智能可用于使我们的生活更轻松。像任何技术一样，它可以用于好是坏。意识到它的能力和发展视觉和媒体文学成为我们数字世界的知情成员至关重要的。

T.J.汤姆森，视觉传播与数字媒体高级讲师，RMIT大学

本文从对话在创意共享许可下。阅读原始文章。