专家警告AI的限制，因为面部识别技术导致波特兰被捕

俄勒冈州波特兰市（katu）â波特兰居民和里德学院校友罗伯特·雅各布·霍普斯（Robert“ Jacob” Hoopes）被联邦调查局特工（FBI）特工逮捕，因为他与一篇文章中出版的照片有关。

法院文件指出，他是使用面部识别软件确定的，该软件扫描了一张俄勒冈州文章中发现的嫌疑人的照片，并据报道提供了来自公共数据库的30场比赛。

过去的报道：波特兰男子和“终身贵格会”在抗议期间被控殴打冰官

自成立以来，面部识别技术已经显着发展。计算机科学助理教授Atul Ingle解释说，现代系统能够在不到一秒钟的时间内处理成千上万的图像。

波特兰州立大学Ingle的研究领域是计算成像和计算机视觉，其中涉及诸如摄像机传感器和处理图像数据的算法之类的问题。

研究领域最近研究了基于机器学习和人工智能（AI）的技术，用于图像识别，分类，检测等。

他解释说，尽管早期模型依赖于可测量的面部特征，但当今的系统使用了对数十亿张图像进行培训的深神经网络，从而使其更加复杂且透明。

Ingle指出，该技术的快速发展已导致广泛使用，包括执法机构。

他对商业专有的缺乏透明度表示担忧，例如Clearview AI警察局和联邦机构已使用。他说：“很难找到有关这些算法如何工作的信息，以及它们的频率出错。”

另请阅读：参议员仔细审查网络剪贴的面部识别创业公司

Ingle说：“自2010年代以来，真正变化的是增加了机器学习方法的使用，并且完全改变了这些系统的设计，培训和部署的规模。”

他解释说，对于较旧的系统（未使用我们现在可用的AI技术），可能需要一天的时间来处理100张图像，而当前的AI和机器学习模型可以轻松地处理“一秒钟以下的成千上万张图像”。

“它的规模完全不同。这些模型越来越成为黑匣子系统，在那里不容易向某人解释，'您是如何提出这场比赛的？''

Ingle进一步阐述了旧模型的流程可以很容易地向用户解释，这与当今公众可用的过程不同。

“'我想到了这场比赛，因为这是这次瞳孔距离'之类的距离'之类的东西，而'鼻子的大小与这样的形象匹配，'对吗？”他谈到较旧的型号。

另请阅读：五角大楼将开始使用Elon Musk的Grok，在争议和更新之中

“黑匣子问题”是给出的术语研究人员无法感知深度学习系统如何做出决策。这个盲点使得在使用AI模型时很难诊断错误并解决不良结果。

英格说：“这也很难量化它们的准确性。这是执法部门使用的一些最近模型的地方，那里存在一些问题，是这些模型并不公开。很难找到有关谁设计这些算法的信息。”

尽管有进步，Ingle指出，面部识别模型仍在认识到代表性不足的种族背景和较差的图像条件的面孔仍然困难。

他说：“这些模型中的许多模型都难以认识到可能来自种族背景的人们的面孔，而培训数据中没有很好的代表。”

在没有传票或逮捕令的情况下，雷德学院（Reed College）面临审查。

作为回应，里德学院校长奥黛丽·比尔格（Audrey Bilger）宣布了对这一事件的调查，强调了该机构对隐私和社区信任的承诺。

比尔格总统在一封信中写道：“最近的事态发展可能引起人们的关注，我们要向您保证，学院正在以认真对待的认真对待此事。Reed坚持明确的政策，并提供定期培训，以确保对信息进行负责任地管理并与法律要求和机构价值保持一致。”

他还承认AI的能力和局限性，尤其是在高风险情况下。他说：“我认为我们不在阶段，只是使用'AI模型说XYZ是正确的论点，所以必须是真的。”

另请阅读：青少年取代人类与机器的联系？大多数使用AI社会伴侣

他谈到面部识别模型时说：“我猜想，经过的经验法则是，训练有素的人无法通过查看图像来分辨，那么没有花哨的机器学习AI模型也可以。”

法院文件指出，联邦调查局特工通过他戴的独特防毒面具确定了箍，而面部识别软件和纹身分析进一步指出了他。

这次逮捕引发了社区的支持，许多人在周一在法院对面的街对面的一场集会上加入了Hoopes的父亲和当地贵格会。他被释放直到审判。

Hoopes面临对一名联邦官员的严重袭击和损害联邦建筑物的罪名，这是由于他涉嫌参与6月14日在南波特兰的移民和海关执法（ICE）建筑的暴力抗议活动。

在抗议活动中，波特兰警察宣布骚乱，据称，箍在冰建筑物上扔了岩石，其中一个撞到了冰上的冰上，造成了两英寸的爆炸。当局还声称，Hoopes率领一个使用停车标志作为对建筑物的击球公羊的小组，导致损失估计为7,727.72美元。