FTC：人工智能“武器检测”公司的安全能力误导学校

将此类故事直接发送到您的收件箱。订阅 74 通讯

11 月 26 日更新

联邦贸易委员会指控一家公司制造人工智能驱动的安全检查系统40 个州的约 800 所学校宣传其检测武器和保护儿童安全能力的虚假声明。 

该委员会称，Evolv Technology 向学校和其他企业销售人工智能驱动的“武器检测”系统，该公司向客户谎称其能够准确有效地检测所有武器。周二向联邦法院提起诉讼。一个 

诉状称，学校占 Evolv 业务的一半，尽管这家上市公司最出名的可能是体育场馆的安全保障，以及今年早些时候在纽约市地铁的试点项目，该项目产生了结果惨淡。

“联邦贸易委员会明确表示，有关技术（包括人工智能）的主张需要得到支持，当这些主张涉及儿童安全时，这一点尤其重要。”塞缪尔·莱文（Samuel Levine），该委员会的消费者保护局在一份媒体新闻稿中表示。– 如果您在没有足够支持的情况下提出这些主张，您可能会收到 FTC 的回复。 –

Evolv 的营销材料将其扫描仪宣传为金属探测器的高科技替代品，但投诉称，该公司对该产品减少误报、削减劳动力成本、无需人员移除的能力做出了不准确的保证。他们口袋里的无害物​​品 - 以及检测所有武器的能力。

公司周二晚间宣布该公司已与委员会达成和解，不涉及承认任何不当行为或罚款，但会给某些 K-12 客户 60 天的时间来取消其当前合同的剩余部分。

据媒体报道，符合条件的地区占所有 Evolv 客户的 8%，并部署了 4% 的扫描仪。取消这些合同可能会影响其年收入 390 万美元。

“这项决议使我们能够专注于一小部分学校客户，以确保他们对 Evolv 扫描仪保持满意，并让我们能够心无旁骛地前进，”该公司 Mike Ellenbogen 说。临时总裁兼首席执行官在声明中表示。

进化有声称它使用人工智能扫描数以万计的武器的独特“签名”，使其能够区分“所有枪支、所有炸弹和所有大型战术刀具”与日常物品，例如钥匙和笔记本电脑。 

Evolv 在其发布的新闻稿中将 FTC 的调查定位为关注过去的营销材料，而不是其人工智能技术的功效，但它也表示该公司将“改进其技术的营销方式，强调其能力和局限性。”

学校安全顾问、国家学校安全和安保服务部主席肯尼思·特朗普 (Kenneth Trump) 告诉《74报》，学校领导越来越多地使用武器检测系统，向家长发出信号，表明他们正在采取积极措施来确保学生的安全。 

– 有些人可能在不知不觉中造成了他们希望阻止的结果：陷入困境，因为他们可能必须向学校社区解释为什么他们购买的技术可能无法实现向他们及其学校社区暗示或承诺的内容，——他说。 

这扫描仪的功效– 包括其预防校园暴力的资金— 多年来一直面临阻力，尤其是 IPVM（一个测试和评估产品的独立安全和监控行业研究小组）。该小组研究的一些学校的误报率高达 60%。 

去年，纽约州尤蒂卡市的一名高中生，对该公司提起诉讼他在校园走廊上被一名同学刺伤，这名同学拿着刀穿过 Evolv 扫描仪，但没有被发现。该学区花费了 370 万美元购买了 Evolv 公司的扫描仪，Evolv 是一家总部位于马萨诸塞州的公司，得到了比尔盖茨和佩顿曼宁等大牌投资者的支持。该公司声称其配备人工智能的设备可以在 15 分钟内筛查多达 1,000 名学生，比传统金属探测器快 10 倍。 

纽约市市长埃里克·亚当斯领导了一项试点计划今年，纽约市一些地铁站安装了 Evolv 扫描仪，但遭到了民权组织的反对，他们认为每天对数百万公交乘客进行筛查既违宪，也不切实际。一个月内，20个地铁站的扫描仪出现了118次误报，并查获了12把刀具。他们没有发现任何枪支。 

该公司周二指出，上个月发生了两起事件，Evolv 扫描仪检测到学生试图将枪支带入教室。肯塔基州和伊利诺伊州高中。

随着人工智能成为教育技术领域的流行语，联邦贸易委员会 (FTC) 在二月份警告企业不要夸大其词他们人工智能产品的实力，并补充说“关于产品功效的虚假或未经证实的声明是我们的面包和黄油。” 

将此类故事直接发送到您的收件箱。订阅 74 通讯