英语轻松读发新版了,欢迎下载、更新

来认识一下“Chameleon”——一种人工智能模型,通过复杂的数字面具可以保护您免受面部识别的影响

2024-12-01 12:00:00 英文原文

作者:Roland Moore-ColyerSocial Links Navigation

An illustration of a face with binary code and symbols in a pixelated style
人工智能可以创建数字面具来隐藏您的个人照片,防止网络犯罪分子发现。 (图片来源:网络魔术师,来自 Shutterstock)

人工智能(AI) 可以掌握隐藏您的个人照片,防止不受欢迎的面部识别软件和欺诈者发现的关键,而且不会破坏图像质量。

佐治亚理工大学的一项新研究于 7 月 19 日发表于预印本arXiv数据库详细介绍了研究人员如何创建一个名为“Chameleon”的人工智能模型,该模型可以为个人照片生成数字“单一个性化隐私保护(P-3)面具”,阻止不必要的面部扫描来检测人脸。变色龙会让面部识别扫描仪将照片识别为其他人。

该研究的主要作者表示:“像 Chameleon 这样的保护隐私的数据共享和分析将有助于推进人工智能技术的治理和负责任的采用,并刺激负责任的科学和创新。”刘玲佐治亚理工学院计算机科学学院的数据和智能计算教授(他与其他研究人员一起开发了变色龙模型),在一份声明中

有关的:科学家警告说,大型语言模型不适合现实世界的使用——即使是微小的变化也会导致他们的世界模型崩溃

面部识别系统现在在日常生活中很常见,从警察摄像头到 iPhone 中的 Face ID。但不必要或未经授权的扫描可能会导致网络犯罪分子收集图像进行诈骗、实施欺诈或跟踪。他们甚至可以收集图像来建立数据库,用于不必要的广告定位和网络攻击。

制作面具

虽然图像遮蔽并不是什么新鲜事,但现有系统经常会混淆人物照片的关键细节,或者通过引入数字伪影而无法保留任何真实质量的图像。为了克服这个问题,研究人员表示变色龙具有三个具体特征。

第一个是使用跨图像优化,使 Chameleon 能够为每个用户创建一个 P3-Mask,而不是为每个图像创建一个新的 mask。这意味着AI系统可以为用户提供即时保护,也可以更有效地利用有限的计算资源;如果 Chameleon 用于智能手机等设备,后者可能会很方便。

将世界上最迷人的发现直接发送到您的收件箱。

其次,Chameleon 融入了“感知性优化”(这是指如何自动渲染图像,无需手动干预或参数设置),以确保保留受保护的面部图像的视觉质量。

第三个功能是增强 P3-Mask,使其足够强大,可以挫败未知的面部识别模型。这是通过集成焦点分集优化来完成的集成学习进入掩模生成过程。换句话说,它使用机器学习技术,结合多个模型的预测来提高算法的准确性。

最终,研究人员希望将 Chameleon 的混淆方法应用于个人用户个人图像的保护之外。

“我们希望利用这些技术来保护图像不被用来训练人工智能生成模型。我们可以保护图像信息不被未经同意地使用,”佐治亚理工学院的博士生说黄天生,他也参与了 Chameleon 的开发。

罗兰·摩尔-科利尔是 Live Science 的自由撰稿人,也是消费者科技出版物 TechRadar 的总编辑,负责移动计算垂直领域的工作。在英国和美国最大的消费技术网站 TechRadar 之一,他专注于智能手机和平板电脑。但除此之外,他还利用十多年的写作经验,为人们带来涵盖电动汽车 (EV)、人工智能 (AI) 的演变和实际使用、混合现实产品和用例以及计算演变的故事无论是从宏观层面还是从消费者角度来看。

关于《来认识一下“Chameleon”——一种人工智能模型,通过复杂的数字面具可以保护您免受面部识别的影响》的评论


暂无评论

发表评论

摘要

佐治亚理工学院的研究人员开发了一种名为“变色龙”的人工智能模型,能够为个人照片创建个性化的隐私保护面具,以防止不必要的面部识别扫描,同时保持图像质量。该面具可以阻止未经授权的面部扫描,而不会扭曲照片的外观,从而提供针对欺诈和网络攻击的强大安全性。Chameleon 的功能包括跨图像优化、感知优化和集成学习技术,以确保其针对未知模型的有效性。目标是将这项技术扩展到个人用途之外,以保护图像免遭未经同意的训练人工智能生成模型的影响。