“忘记那些学科界限”：纳拉亚南和卡普尔谈人工智能研究和政策合作

Arvind Narayanan 是计算机科学教授兼信息技术政策中心 (CITP) 主任，五年前开始研究人工智能 (AI)，重点关注偏见和歧视。大约在同一时间，Sayash Kapoor GS 辞去了 Facebook 软件工程师的职务，开始攻读博士学位。在普林斯顿。

他们最近出版的书《人工智能蛇油》引发了全球关于人工智能的局限性和潜在滥用的讨论。但他们在计算机科学、伦理学和政策方面进行跨学科合作的方法被誉为突破性的。

普林斯顿 CITP 现任负责人纳拉亚南 (Narayanan) 与卡普尔 (Kapoor) 一起进行了开源技术政策研究，该研究已惠及其他学者、行业研究人员、律师和政策制定者。 

“我们竖起的这些[纪律]墙对我来说从来没有多大意义，”纳拉亚南说。– 大自然并不区分不同的学科。如果你想了解真相，就必须忘记那些学科界限。”

25 岁的计算机科学专业学生扎卡里·西格尔 (Zachary Siegel) 曾与纳拉亚南 (Narayanan) 和卡普尔 (Kapoor) 一起进行过研究，他表示，这本书对于非从业者来说是一个很好的机会，可以很好地理解人工智能为何起作用以及它能做什么和不能做什么。 

“对于不是人工智能研究人员的人来说，理解不同的人工智能技术如何以不同的方式工作确实很困难，”西格尔说。“这本书很好地打破了不同类型人工智能技术之间的区别，并采用基于证据的方法来衡量人工智能的能力。”

纳拉亚南和卡普尔的人工智能怀疑之旅

Narayanan 的早期工作重点是应用程序和应用程序中的数字隐私网站，以及加密货币作为一名研究科技公司的计算机科学家的说法。他研究的首要主题是科技行业的力量和社会平衡的需求，这影响了他对人工智能的看法。 

“虽然科技行业有很多批评者，但没有多少人拥有计算机科学专业知识，可以凭经验识别公司声明何时可能被炒作或虚假，”纳拉亚南说。

“我看到一些关于招聘自动化产品的文章，声称可以根据候选人讨论爱好或资格的 30 秒视频来推断工作适合性，”他继续说道。“这似乎太荒谬了，难以置信——一个精心设计的随机数生成器吸引了不堪重负的人力资源部门。” 

“大约五年前，我开始对这个问题感兴趣：除了偏见之外，人工智能到底有用吗？”

纳拉亚南 (Narayanan) 的人工智能运用启发了 2019 年讲话，“如何识别人工智能万金油”，在麻省理工学院，他在其中讨论了如何识别公司对其人工智能潜力的有缺陷的承诺。他的幻灯片迅速走红下载的他的推文被浏览了数千次，数百万人浏览。

大学毕业后，卡普尔开始在 Meta（后来的 Facebook）担任软件工程师，专注于人工智能理论和人工智能的社会影响。在 Meta，他看到了人工智能如何被用来做出重大决策，例如，检测未经同意的人们图像和预测儿童性虐待材料。 

在 Facebook，卡普尔还见证了欧盟通用数据保护条例 (GDPR)（一项于 2018 年生效的数据隐私法）对公司的影响。– 我确实看到了一套立法可以对整个价值数十亿美元的公司产生的影响，这让我思考我想如何影响变革。我意识到做到这一点的最佳方法之一就是从外部开始。”

2021 年，卡普尔开始在普林斯顿大学攻读博士学位。纳拉亚南手下的学生。 

校园指导、建议和教育

除了共同研究之外，纳拉亚南和卡普尔还将人工智能的社会影响作为他们指导和教学的重点。 

2023 年秋季，纳拉亚南教授了《计算伦理》课程的第一次迭代，该课程将哲学探究与实践编程作业结合起来。纳拉亚南和卡普尔还与社会学教授马修·萨尔加尼克一起教授研究生研讨会，名为“预测的极限”。

“这不仅仅是教学生如何编码或如何构建人工智能系统，”纳拉亚南说。– 教会他们批判性地思考这些技术的影响。我们希望我们的学生能够提出正确的问题，挑战假设，并考虑他们工作的道德含义。”

Mihir Kshirsagar 是国际与公共事务学院具有法律背景的讲师，他将在即将到来的春季课程“社会中的大数据”中分配本书的章节。 

“[AI 蛇油] 被用在计算机科学和 SPIA 学生的研讨会上，因为他们讲得非常清楚，能够通过行话来识别核心问题，”他说。“它是一种有效的教学工具。”

纳拉亚南和萨亚什还与普林斯顿大学更大的本科生和研究生社区合作。

Varun Rao GS 在攻读博士学位之前曾是亚马逊的软件工程师。在普林斯顿。他与 Narayanan 和 Kapoor 合作开展了多个项目，包括在 2023 年秋季担任道德与计算课程的助理讲师。其中一个项目是 Rao 研究了人工智能对失业的影响，得出的结论是，虽然存在失业的情况，工作人员也在适应人工智能驱动的变化——作为工作组的一部分，为欧盟的人工智能法案和人工智能提供商的行为准则提供信息。 

拉奥说，他最钦佩纳拉亚南和卡普尔方法的建设性本质。

“他们不仅批评当前的状况，而且就如何解决问题提供了具体可行的建议，我认为这是更难做到的事情，”拉奥说。– 我曾经在行业工作过，他们对整个公平、透明和偏见领域的批评之一是， – 好吧，人们只是批评，但没有真正提供解决方案并告诉我们该做什么做什么或如何做得更好。 –

西格尔说，他喜欢从事有关人工智能代理能力的专门项目，例如评估人工智能代理是否可以复制已发表的科学论文。

“许多研究人员通常最终都会从事自己的个人项目，但 Arvind 和 Sayash 都在跨大学和跨领域进行合作，”西格尔说。“我们组织了一场关于人工智能代理的研讨会，并邀请了来自学术界和工业界的许多演讲嘉宾。”

揭秘人工智能蛇油：超越橙色泡沫

纳拉亚南和卡普尔围绕人工智能进行了政策讨论，对其能力和局限性提出了细致入微的看法。

Sujay Swain 25 岁，是一名电气与计算机工程专业的学生，​​去年夏天在 CITP Siegel 公共利益技术奖学金的资助下在联邦贸易委员会工作。他提到纳拉亚南和卡普尔关于 AI 的 Substack 博客（该博客出现在这本书之前）在他的实习期间被广泛引用。 

“这是来自世界各地的人们真正感兴趣并用作参考点的资源，”斯温说。“我认为看到普林斯顿大学所做的工作对科技政策产生更广泛的影响真的很酷。”

Rao回忆道，根据他的经验，行业专业人士批评人工智能公平领域没有针对他们提出的问题提出明确的解决方案。

“Arvind 和 Sayash 的很多工作以及书中的内容都涉及解决方案，”他说。“我发现这真的很有趣。”

纳拉亚南和卡普尔也参与了普林斯顿人工智能对话和人工智能政策规则，与华盛顿公共和国际事务学院合作提供。这两个无党派项目促进了关于联邦决策技术未来的核心概念、机遇和风险的对话。 

“Arvind 和 Sayash 确实突破了我们所认为的计算机科学教育的界限，”在普林斯顿大学教授技术伦理学的 CITP 讲师 Steven Kelts 说道。“他们表明，将严格的技术培训与对社会影响的更广泛的理解结合起来是可能的。”

展望人工智能的长期未来，纳拉亚南表示他很乐观，但了解其局限性至关重要。 

– 我们周围有许多人工智能的成功故事。自动完成和拼写检查等功能曾经是最先进的人工智能，”他说。– 自动驾驶汽车被夸大了，但现在已经成为现实，出租车为数百万人提供乘车服务。最终，每个人​​都将能够使用它们，从而减少每年导致全球约一百万人死亡的道路事故。”

Chloe Lau 是《王子》的特约撰稿人。

如有任何更正，请直接发送至 Correction@dailyprincetonian.com