美国国土安全部AI库存分析的五个调查结果|techpolicy.press

Paromita Shah是联合创始人兼执行董事只是期货法。

从2024年初开始，Just Futures Law和Mijente研究了美国国土安全部（DHS）对人工智能（AI）的使用，即使在第二届特朗普政府开始之前，人们对缺乏透明度和公众信息的缺乏透明度和公众信息在AI工具库存中提供的可用。我们的最初发现，在2024年的报告中提出自动驱逐出境，露出DHS AI军械库的细节，其中大多数从未见过。

在我们的研究过程中，我们还发现，国土安全部已经违反了与透明度，监督及其监控其AI危害产品的义务有关的现有政策和法律。我们的团队会见了DHS，分享我们的发现并组织起来信件要求DHS快门AI减轻进一步的伤害。国家民权组织施加的压力导致了一些AI计划以及对其AI库存的审查和评估，包括对我们的询问的直接回应和公共页面公开命名的AI工具和用途以前从未被识别过。

在拜登政府的最后几天，DHS发布了最完整的库存，揭示新的AI使用它一直隐藏的。这是唯一的要求，DHS能够从拜登政府针对联邦机构的AI执行命令中满足一系列要求，其中许多人在不考虑公众是否会伤害公众还是侵犯公民权利保护的情况下快速追踪AI。Just Futures Law经历了最新的DHS库存，与公众分享这些见解。

前五名

1：DHS在其AI库存中披露了将近200个AI的使用，这是2024年12月之前公众未知的数字。

DHS在2024年底之前关闭了一些关键的AI计划，包括庇护文本分析和I-539批准预测，我们的报告中确定了两个程序。ATA试图评估欺诈行为，类似于USCIS用于评估的机器学习计划当故事不一致时。该系统将自己的否认，偏见和歧视有限的英语能力发言人（绝大多数庇护申请人）提供了错误的否认，偏见和歧视。不幸的是，它保持了拘留评分计划飓风以及主持它的程序，风险分类评估（RCA）。ICE使用飓风评分和风险分类评估（RCA），看似是AI驱动的工具，可以决定是释放某人从拘留中释放还是确定其电子监视的条款。根据库存中发布的有限信息，DHS不会将AI输出的律师或受影响的个人通知AI输出（请参阅DHS AI库存，DHS-2408）。

2：CBP的使用最多，几乎所有的用途都位于边界。 

在移动设备中使用了一些AI用途。CBP部署的许多AI工具都涉及面部识别，扫描，无人机和数据分析。这意味着CBP可以在未经许可或知识的情况下收集和分析个人数据和图像，包括面部扫描。例如，现在称为CBP Home的CBP一个应用程序使用面部识别和数据跟踪。此外，其中许多程序涉及社交媒体监控和跟踪的多种用途。

3：与Biden AI行政命令中的要求相反，DHS尽管发现他们对权利的影响，但仍继续扩展并批准许多强大的AI计划，并可能导致偏见或错误。 

DHS经常选择自我认证自己的合规性（与使用第三方的合规性）。国土安全部没有也不会通知包括律师在内的人，即AI是否已被使用或提供有意义的机制来挑战其使用。DHS要求对几种监视AI工具进行扩展，例如Babel，社交媒体监视AI计划和FiveCast-onyx。另外，许多AI组件乌鸦，一个用于跟踪和分析大量数据的大量数据分析平台已被允许继续。DHS依靠其公民权利和公民自由办公室（OCRCL）遵守，尽管OCRCL没有携带执法权来确保监测。总而言之，国土安全部未能遵守民权保护的关键组成部分。

4：DHS AI库存分散，误导性和不完整。

DHS未能填写库存电子表格的所有字段，遗漏了有关使用AI的使用，是否被终止，制造AI的公司以及如何监视AI的公司。简而言之，省略了AI用途的关键细节。库存未能始终在整个库存中共享采购合同数字，因此无法确定哪些公司背后是某些计划或托管它们的DHS平台。采购编号是错误的，有时无法与任何采购顺序匹配。此外，一些AI用途被列为退休，给人的印象是它们被终止。但是，进一步的审查显示，一些用途被终止，而另一些用途只是从AI库存中删除，因为DHS认为它们不是AI。

5：在内部生产的AI产品很少。国土安全部从公司和承包商那里购买大多数AI，包括多个社交媒体监控和面部识别计划。

这些托管在DHS用于签证，边境执法，移民处理和威胁建模的大型系统上。我们学习了类似的程序别贝（AI库存，DHS-185）和调查优先级聚合器（AI库存，DHS-125）下的未命名计划参与了社交媒体监控。另一个令人不安的社交媒体计划，GOST（也称为Giant Oak），在2022年退休。但是，我们有理由相信，这些程序中的许多（即使不是全部）仍在使用中。

那么，接下来怎么办？

在特朗普政府的领导下，AI的使用在DHS内迅速升级社交媒体监视，，，，撤销签证， 和驱逐出境操作处于危险和前所未有的水平。自从特朗普掌权以来，国土安全部已经毁了其民权办公室，利用古董国家安全法进行政治​​针对和大规模驱逐出境，以及撤销了唯一解决民权的EO，将这些强大的工具留在DHS代理商的手中，这些代理商消失了，并违反了隐私保护措施。AI需要数据，DHS坐在庞大的存储库。必须监视和发现AI系统正在访问哪些数据，以便社区可以发现挑战其使用的方法。