英语轻松读发新版了,欢迎下载、更新

“我之前从未见过如此大胆的匿名攻击”:Clearview AI以及能够仅凭一张照片识别你的令人毛骨悚然的技术

2024-10-21 09:17:45 英文原文

作者:Kashmir HillSocial Links NavigationLive Science Contributor

illustration showing facial recognition technology with a blank face and lines and dots across it
(图片版权:Westend61 / Getty Images)

在这本《您的面孔属于我们》(Simon & Schuster,2023)的摘录中,记者卡什米尔·希尔回忆了面部识别技术公司Clearview AI的出现,该公司以一种令人震惊的方式进入公众意识。人工智能能够仅凭一张人脸照片就能识别出几乎所有人的面部识别软件。


2019年11月,我刚刚成为《纽约时报》的记者时,收到一条似乎难以置信的小道消息:一家名为Clearview AI的神秘公司声称仅凭一张面部照片就能识别出几乎任何一个人。

当我收到那封电子邮件时,我正身处瑞士的一家酒店房间里,那是我怀孕六个月后短期内最后一次国际出差的飞机旅程。那天已经很晚了,我很累,但邮件让我精神一震。我的消息来源挖掘出了一份标有“机密”的法律备忘录,在这份备忘录中,Clearview公司的律师表示,该公司从公共网络上抓取了数十亿张照片,包括来自Facebook、Instagram和LinkedIn等社交媒体平台的照片,以创建一个革命性的应用程序。

给Clearview一张街头随机行人的照片,它会回传互联网上所有出现该人脸的地方,可能会揭露的不仅是他们的名字,还有他们生活的其他个人细节。该公司正向全国各地的警察部门出售这项超能力,但试图将其存在保密。

不久前,自动面部识别还是一种与科幻小说或《少数派报告》等电影相关联的反乌托邦技术。工程师们早在20世纪60年代就试图将其变为现实,尝试编写早期计算机程序来匹配某人的肖像和一个更大的人脸数据库。在21世纪初,警方开始试验这一技术,用以搜索通缉照片库中未知犯罪嫌疑人的面孔。但这项技术总体上令人失望。其性能在种族、性别和年龄之间存在差异,即使是最先进的算法也难以完成如此简单的任务,比如将一张模糊的ATM监控图像与通缉照匹配。

Clearview声称自己与众不同,宣称拥有“98.6%的准确率”以及一个庞大的照片集合,这是警方之前从未使用过的。

这如果是真的,我心想,当我一遍又一遍地阅读那份从未打算公开的克莱罗伊备忘录时。我已经报道隐私问题及其逐渐丧失超过十年了。我常常形容我的报道领域是“即将来临的技术反乌托邦——以及我们如何尽力避免它”,但在此之前我从未见过如此大胆地攻击匿名性的行为。

获取世界上最迷人的发现,直接发送到您的邮箱。

隐私,一个难以定义的词语,在1890年《哈佛法律评论》的一篇文章中被著名地描述为“不受打扰的权利”。撰写该文章的两位律师塞缪尔·D·沃伦和路易斯·D·布兰戴斯呼吁通过法律保护隐私权,就像对生命、自由以及私人财产等早已确立的权利一样。他们受到了当时一种新型技术——1888年发明的便携式伊斯曼柯达胶片相机的启发,这种相机使得人们可以在工作室之外拍摄“即时”的日常生活照片;同时,像我这样的好管闲事的记者也让他们感到困扰。

“即时摄影和新闻事业已侵入了私人和家庭生活的神圣领域,”沃伦和布兰戴斯写道,“众多机械装置威胁着要使这样的预测成真:‘在密室中窃窃私语的内容将在屋顶上公开宣布。’”

相关:如果不限制人工智能,人类将面临“灾难性的”未来,“人工智能教父”约书亚·本吉奥说。

这篇文章是史上最著名的法律论文之一,路易斯·布兰戴斯后来加入了最高法院。然而,隐私从未得到沃伦和布兰戴斯所说的那种保护。一个多世纪过去了,至今仍没有一部全面的法律保证美国人对其照片、关于他们的报道以及个人数据的使用拥有控制权。与此同时,总部位于美国及其他隐私法不健全国家的公司正在创造越来越强大且侵扰性的技术。

面部识别技术我已经关注了一段时间。在我的职业生涯中,我在《福布斯》和《 Gizmodo 》等地方报道了数十亿美元公司的重要新产品:Facebook 自动在照片中标记朋友;苹果和谷歌让人们通过看手机来解锁设备;微软和英特尔的数字广告牌配备了摄像头,可以检测路人的年龄和性别以显示相应的广告。

facial recognition technology being used in a crowd

关于面部识别技术的担忧已经存在了数十年。图片版权:瓦萨雷克(音译)/Getty Images)

我曾写过关于这种有时笨拙且容易出错的技术如何激发执法部门和行业的兴趣,但又让注重隐私的公民感到恐惧。当我思考Clearview声称它能做的事情时,我想起了几年前我在华盛顿特区参加的一个联邦研讨会,在那次研讨会上,行业代表、政府官员和隐私倡导者坐下来商讨相关规则。

他们唯一达成一致的观点是,不应该推出任何用于识别陌生人的应用程序。他们认为这样做太危险了。一个酒吧里的怪异人士可以拍下你的照片,并在几秒钟内知道你的朋友是谁以及你住在哪儿。这种技术还可以被用来识别反政府抗议者或前往 Planned Parenthood 诊所的女性。它将成为骚扰和恐吓他人的武器。准确的大规模面部识别,涉及数亿乃至数十亿人,在技术领域被视为极其危险的事情。而现在 Clearview 这个鲜为人知的新玩家声称已经建成了这样的系统。

我持怀疑态度。初创公司以夸大其辞著称,最终被发现不过是骗人的把戏。甚至史蒂夫·乔布斯在2007年首次发布原始iPhone时也在舞台上伪造了它的功能。*

我们往往认为计算机几乎具有神奇的力量,认为它们能够解决任何问题,并且在拥有足够数据的情况下,最终能比人类更好地解决问题。因此,投资者、客户和公众可能会被一些雄心勃勃但尚未达到目标的公司的夸张声明和数字花招所蒙骗。

但在这一份保密的法律备忘录中,曾担任乔治·W·布什总统任内美国副检察长的知名律师保罗·克莱门特声称,他已与自己律所的律师们试用了该产品,并“发现它能快速准确地返回搜索结果。”

克莱门特写道,已有超过200个执法机构正在使用该工具,并且他确定“在将其用于预期目的时不会违反联邦宪法或相关的州生物识别和隐私法。”不仅有数百个警察部门秘密使用这项技术,而且该公司还聘请了一位高级律师来向执法人员保证,他们通过这样做并没有违法。

我带着即将到来的预产期回到了纽约,我有三个月的时间来调查这个故事,而挖掘得越深,事情就越显得不可思议……

关于面部识别的担忧已经存在了几十年。而现在,这个模糊的恐惧终于有了具体的形式:一家有着神秘创始人和庞大数据库的小公司。而构成这些数据库的数百万人中没有任何一个人给出过同意。Clearview AI 代表着我们最糟糕的恐惧,但它也最终为我们提供了面对它们的机会。

*史蒂夫·乔布斯玩了个花招,通过让他的工程师花费无数小时寻找一条“黄金路径”——即手机可以无故障执行的特定任务序列——来掩盖原型iPhone的内存问题和频繁崩溃。


你的脸属于我们:一家秘密初创公司正在破坏你的隐私(卡什米尔·希尔著)已被提名为2024年奖项候选人特里维迪科学图书奖(由皇家学会颁发),该奖项庆祝来自全球各地的最佳科普写作。

卡什米尔·希尓是《纽约时报》的一名获奖科技记者。她关注技术如何塑造我们的生活并影响我们的隐私,曾在包括《纽约客》、《华盛顿邮报》和福布斯在内的多家出版物上撰文。《你的面容属于我们》是她的第一本书。

关于《“我之前从未见过如此大胆的匿名攻击”:Clearview AI以及能够仅凭一张照片识别你的令人毛骨悚然的技术》的评论


暂无评论

发表评论

摘要

(图片版权:Westend61 /Getty Images) 在这本《Your Face Belongs to Us》(Simon & Schuster,2023)的节选中,记者卡什米尔·希尔回忆了面部识别技术公司Clearview AI的崛起。该公司以其人工智能软件在公众意识中的突然出现而闻名,该软件据称只需一张人脸照片即可识别几乎任何一个人。但这项技术总体上令人失望。“相关:‘AI教父’约书亚·本吉奥表示,如果我们不规范AI,人类将面临一个‘灾难性的’未来。”这篇文章是历史上最著名的法律论文之一,路易斯·布兰戴斯后来加入了最高法院。当我消化了Clearview声称它能做什么的时候,我想起了几年前我在华盛顿特区参加的一次联邦研讨会,在那次研讨会上,行业代表、政府官员和隐私倡导者坐下来制定规则。因此,投资者、客户和公众可能会被一些渴望做大事但尚未做到的公司的夸张声明和一些数字魔术所欺骗。