即将离任的白宫首席技术顾问对人工智能有什么看法

拜登总统的政府将在两个月内结束，内阁中科学技术领域的最高领导人阿拉蒂·普拉巴卡尔(Arati Prabhakar)可能会与他一起离任。她自 2022 年起担任白宫科技政策办公室主任，是第一个在椭圆形办公室向总统演示 ChatGPT 的人。普拉巴卡尔在总统 2023 年人工智能行政命令的通过中发挥了重要作用，该命令为科技公司制定了指导方针，使人工智能更安全、更透明（尽管它依赖于自愿参与）。 

即将上任的特朗普政府尚未就如何处理人工智能提出明确的论点，但其中很多人希望看到该行政命令无效。特朗普在 7 月份也说过同样的话，支持2024 年共和党政纲这表明该行政命令“阻碍了人工智能创新，并将激进的左翼思想强加于这项技术的开发。”风险投资家马克·安德森(Marc Andreessen)表示，他将支持这一举措。 

然而，埃隆·马斯克(Elon Musk)会让这种说法变得更加复杂，他多年来一直对人工智能世界末日的场景表示担忧，并一直支持一些旨在促进人工智能安全的法规。 

当她为政府结束做准备时，我与普拉巴卡尔坐下来，请她反思拜登总统的人工智能成就，以及特朗普领导下人工智能风险、移民政策、CHIPS 法案等可能发生的变化。 

为了篇幅和清晰度，本次对话已被编辑。

每当新的人工智能模型出现时，人们都会担心它可能会被滥用。当您回想两年前假设的安全问题时，哪些已经成为现实？

当大型语言模型突然出现时，我们发现了一系列风险，其中以可怕的方式充分体现的风险是深度伪造和基于图像的性虐待。我们与性别政策委员会的同事合作，敦促业界立即采取一些行动，其中一些人正在这样做。有很多事情可以做——支付处理商实际上可以确保人们遵守他们的使用条款。他们不想支持[基于图像的性虐待]，他们实际上可以采取更多措施来确保他们不支持。立法正在等待中，但这仍然需要一些时间。

是否存在一些风险并没有像您预测的那样令人担忧？

起初，人工智能开发人员对生物武器表示了很多担忧。当人们对与仅进行谷歌搜索相比的风险有多大进行严格的基准测试时，结果发现，风险稍差一些，但也很小。如果你没有考虑过坏人是如何做坏事的，那么聊天机器人看起来会非常令人震惊。但你真的不得不说，与什么相比？

如果消费者不相信他们与之交互的人工智能工具会尊重他们的隐私，不会嵌入偏见和歧视，不会造成安全问题，那么所有奇妙的可能性都不会实现。没有什么比国家安全和执法更能体现这一点了。 

我会给你一个很好的例子。面部识别技术是一个存在可怕、不当用途的领域：从一家便利店拍摄一段模糊的视频，识别出一名从未去过该州的黑人，然后他因自己没有犯下的罪行而被捕。（编者注：普拉巴卡指的是这个故事）。由于面部识别技术使用不当而导致的错误逮捕必须停止。 

与此形成鲜明对比的是，当我现在在机场通过安检时，它会拍摄你的照片并将其与你的身份证件进行比较，以确保你就是你所说的那个人。这是一个非常狭窄的、特定的应用程序，它将我的图像与我的身份证件进行匹配，并且该标志告诉我——而且我从我们的国土安全部同事那里知道情况确实如此——他们将删除该图像。这是对这种自动化技术的高效、负责任的使用。得体、尊重、负责任——这就是我们必须努力的方向。

您对人工智能安全法案的通过感到惊讶吗？否决在加利福尼亚州？

我不是。我关注了辩论，我知道双方都有强烈的观点。我认为该法案的反对者所表达的，我认为是准确的，是它根本不切实际，因为它表达了如何评估安全的愿望，但我们实际上只是不知道该怎么做那些东西。没有人知道。这不是一个秘密，这是一个谜。 

对我来说，它确实提醒我们，虽然我们想要知道一个模型有多安全、有效和值得信赖，但我们实际上回答这些问题的能力非常有限。这些实际上是非常深入的研究问题，也是现在需要在更深层次上进行公共研发的一个很好的例子。

我们来谈谈人才。最近关于人工智能的国家安全备忘录的大部分内容都是关于如何帮助合适的人才从国外来到美国从事人工智能工作。您认为我们处理这个问题的方式正确吗？

这是一个非常重要的问题。这是最终的美国故事，几个世纪以来人们来到这里建设这个国家，现在在科学和技术领域一如既往地如此。我们生活在一个不同的世界。我小时候就来到这里，因为我的父母在 20 世纪 60 年代初从印度来到这里，在那段时期，[移民到]世界许多其他地方的机会非常有限。 

好消息之一是现在有更多的机会。另一条消息是，我们确实与中华人民共和国存在着非常关键的战略竞争，这使得弄清楚如何继续为寻求美国优​​势的人敞开大门，同时确保他们的利益变得更加复杂。我们继续保护我们的知识产权等关键资产。 

您认为围绕移民的分歧性辩论，尤其是在大选期间，可能会损害美国引进合适人才的能力吗？

因为我们作为一个国家在移民问题上长期停滞不前，所以我们处理 STEM 领域移民问题的能力受到了困扰。这是附带损害。

CHIPS 法案成功了吗？

我是一名半导体人员，刚刚开始我的研究生工作。四十年后，当我们真正决定采取一些措施来解决半导体制造能力非常危险地集中在世界某一地区（台湾）这一事实时，我感到既惊讶又高兴。因此，在总统的领导下，我们最终采取了行动，这一点至关重要。商务部为落实这些制造业激励措施所做的工作，我认为他们做得非常出色。

迄今为止，CHIPS 法案的主要受益者之一是英特尔。对于是否能够按照《CHIPS 法案》的预期方式建设国内芯片供应链，人们有不同程度的信心。将很多鸡蛋放在一个芯片制造商的一个篮子里有风险吗？

我认为，就《芯片法案》而言，我在行业中看到的最重要的事情是，今天我们不仅有英特尔，还有台积电、三星、SK 海力士和美光。这五家公司的产品和工艺处于半导体技术最先进的节点。它们现在都在美国建造。世界上没有其他地方能够同时拥有这五个条件。一个行业比一个公司更大。我认为，当你看一下总体情况时，这对我来说是一个信号，表明我们正走在一条非常不同的轨道上。

您是总统的首席科学技术顾问。我想问一下科学今天拥有或不拥有的文化权威。小罗伯特·肯尼迪被选为卫生部长，在某些方面，他体现了美国人对我们的医疗保健系统的很多不满。在其他方面，他有很多只能用反科学来形容的观点。您如何看待科学现在所具有的权威性？

我认为重要的是要认识到，我们生活在一个对机构的信任全面下降的时代，尽管与其他领域发生的情况相比，对科学的信任仍然相对较高。但这在很大程度上是这个更广泛现象的一部分，我认为科学界在这方面可以发挥一些作用。事实是，尽管美国拥有世界上最好的生物医学研究，但我们并没有取得强劲的健康成果。三打国家的预期寿命比美国长。这是不行的，科学进步与改变人们生活之间的脱节是不可持续的。科学技术和研发与美国人民达成的协议是，如果我们进行这些公共投资，它将改善人们的生活，如果没有发生这种情况，就会削弱信任。 

可以公平地说，美国所拥有的专业知识与我们糟糕的健康状况之间的差距可以解释阴谋论思维和对科学的怀疑的兴起吗？

它为此留下了空间。然后就是对事实的拒绝，这是一个相当有问题的问题。如果您是一名研究人员，这会很麻烦，因为您只知道所说的不是事实。真正让我困扰的是[拒绝事实]改变了人们的生活，这是极其危险和有害的。想想我们是否失去了对某些疾病的群体免疫力，而我们现在已经接种了相当高水平的疫苗。在我们用现有的疫苗驯服传染病之前，这是一个丑陋的世界。