五角大楼正在使用人工智能来审查员工——但前提是它通过了“妈妈测试”

负责向数百万美国工人授予安全许可的国防反情报和安全局正在使用人工智能来加快工作速度。该机构负责人表示，不允许存在任何“黑匣子”。

_{经过艾米莉·贝克-怀特和拉什·施里瓦斯塔瓦, 福布斯员工}

乙在允许 13,000 多名五角大楼员工查找有关美国公民的信息之前，国防反情报和安全局 (DCSA) 主任戴维·卡特勒 (David Cattler) 让他们问自己一个问题：我妈妈知道政府可以这样做吗？

卡特勒称之为“妈妈测试”，是对 DCSA（一个向数百万工人授予或拒绝美国安全许可的庞大机构）如何履行其职责的常识性检查。这也是 Cattler 对其机构使用人工智能的看法。

DCSA 是负责调查和批准 95% 联邦政府雇员安全许可的机构，这要求它每年完成数百万项调查。这使得该机构能够访问大量私人信息，到 2024 年，DCSA 转向使用人工智能工具来组织和解释这些数据。

这不包括 ChatGPT、Bard、Claude 或其他华丽的生成人工智能模型。相反，它以硅谷科技公司多年来一直采用的方式挖掘和组织数据，使用比大多数大型语言模型更清晰地显示其工作的系统。例如，卡特勒表示，该机构最有希望使用这些工具的用例是优先考虑现有威胁。

如果使用不小心，这些工具可能会损害数据安全并给政府系统带来偏见。但卡特勒仍然乐观地认为，人工智能的一些不太性感的功能可能会改变该机构的游戏规则——只要它们不是“黑匣子”。

“我们必须理解为什么它是可信的，以及它是如何做到这一点的，”卡特勒告诉福布斯。“当我们将这些工具用于我所描述的目的时，我们必须证明它们言出必行，并且客观地行事，并且以高度合规和一致的方式行事。”

许多人甚至可能没有想到 Cattler 所描述的工具是人工智能。他对建立 DCSA 保护的设施热图的想法感到很兴奋，其中实时绘制风险图，并在其他政府机构收到有关潜在威胁的新信息时进行更新。他说，这样的工具可以帮助 DCSA“确定将[隐喻的]消防车放在哪里。”它不会发现新信息；而是会发现新信息。它只是以更有用的方式呈现现有信息。

民主与技术中心高级政策顾问马修·谢勒 (Matthew Scherer) 表示福布斯尽管人工智能可用于整理和组织已收集和验证的信息，但它是下一步，即做出关键决策，例如在背景调查过程中指出危险信号或从社交媒体资料中收集数据。这可能很危险。例如，人工智能系统仍然难以区分多个同名的人，从而导致错误识别。

“如果人工智能系统提出某种建议或对特定申请人进行评分，我会担心，”谢勒说。– 那么您就进入了自动化决策系统的领域。 –

卡特勒表示，该部门已不再使用人工智能来识别新风险。然而，即使在优先级排序中，也可能会出现隐私和偏见问题。在与人工智能公司签订合同时（Cattler 拒绝透露任何合作伙伴的名称），DCSA 必须考虑将哪些私有数据输入到专有算法中，以及这些算法在获得这些数据后可以对这些数据执行哪些操作。向公众提供人工智能产品的公司不经意间 泄露客户委托给他们的私人数据——如果这种情况发生在五角大楼本身持有的数据上，这将是灾难性的。

人工智能还可能给国防部系统带来偏见。算法反映了算法制作者的盲点以及他们接受培训的数据，DCSA 依靠白宫、国会和其他行政机构的监督来防止其系统中存在偏见。2022年兰德公司报告明确警告人工智能可能会在安全许可审查系统中引入偏见——可能是由于程序员偏见或历史种族差异造成的。

卡特勒承认，影响算法的社会价值观（包括五角大楼的价值观）会随着时间而变化。他说，如今，该部门对极端主义观点的容忍度远不如以前，但对那些曾经酗酒或吸毒、目前正在康复的人则更加宽容。“直到不久前，同性恋在美国许多地方实际上还是非法的，”他说。“这是系统可能需要自行解决的偏见。”

更多来自《福布斯》的内容

福布斯这些初创公司正在确保人工智能公司为获取内容付费经过拉什·施里瓦斯塔瓦福布斯欧洲人工智能独角兽公司将推出杀手级无人机舰队经过伊恩·马丁福布斯OpenAI 正在争夺国防合同经过拉什·施里瓦斯塔瓦福布斯如果特朗普想“拯救”TikTok，他可能需要先禁止它经过艾米莉·贝克-怀特