我们正在推出人类研究所，这是一项新的努力，旨在应对强大的人工智能将给我们的社会带来的最重大挑战。人类研究所将利用整个人类研究所的研究成果，提供其他研究人员和公众在我们向包含更强大的人工智能系统的世界过渡期间可以使用的信息。

自 Anthropic 成立以来的五年里，人工智能的进步速度令人难以置信。我们花了两年时间发布了第一个商业模型，又花了三年时间开发出能够发现的模型严重的 网络安全 漏洞,承担一个范围广的真正的工作，甚至开始加快步伐人工智能发展本身。我们预测未来两年将会取得更加显着的进展。

我们公司的核心信念之一是人工智能的发展正在加速：我们所做的改进会随着时间的推移而不断复合。正因为如此，极其强大的人工智能，就像我们的首席执行官达里奥·阿莫迪 (Dario Amodei) 在书中描述的那样慈爱机器，来得比许多人想象的要早得多。

如果这是正确的，社会很快将需要面对许多巨大的挑战。强大的人工智能系统将如何重塑我们的就业和经济？它们将为我们提供哪些增强社会复原力的机会？他们会放大或引入哪些类型的威胁？人工智能系统所表达的“价值观”是什么？社会将如何帮助企业确定适当的价值观？而且，如果人工智能系统的递归自我改进确实开始发生，世界上谁应该意识到这一点，以及应该如何治理这些系统？

人类研究所的目标是告诉世界我们在构建前沿人工智能系统时对这些挑战的了解，并与外部受众合作，帮助解决我们必须面对的风险。我们的社会是否有能力做到这一点将决定变革性人工智能是否能够实现激进的好处我们相信这在科学、经济发展和人类能动性方面是可能的。

该研究所由我们的联合创始人杰克·克拉克 (Jack Clark) 领导，他将担任 Anthropic 公共利益主管这一新职务。它拥有一支由机器学习工程师、经济学家和社会科学家组成的跨学科团队，汇集并扩大了 Anthropic 的三个研究团队：边疆红队，对人工智能系统进行压力测试，以了解其当前能力的最外层限制；社会影响，研究人工智能如何在现实世界中使用；和经济研究，追踪其对就业和整体经济的影响。该研究所还将孵化新的团队，目前正在致力于预测人工智能的进展，并更好地了解强大的人工智能将如何与法律系统互动。

该研究所拥有独特的优势：它可以获得只有前沿人工智能系统的构建者才拥有的信息。它将充分利用这一优势，坦诚地报告我们正在了解的有关我们正在制造的技术的情况。同时，学院是一条双向街。它将与面临流离失所的工人和行业，以及那些感到未来对他们不利但不确定如何应对的人民和社区进行接触。我们所学到的知识将影响研究所的研究内容以及我们公司作为一个整体如何选择采取行动。

人类研究所聘请了几位创始人：

• 耶鲁大学法学院常驻研究员、谷歌 DeepMind 前高级研究总监和普林斯顿大学神经计算教授 Matt Botvinick 将加入该研究所，领导其在人工智能和法治方面的工作。
• 安东·科里内克 (Anton Korinek) 辞去弗吉尼亚大学经济学教授职务，加入经济研究团队，领导一项研究变革性人工智能如何重塑经济活动本质的工作。
• Zoí Hitzig 曾在 OpenAI 研究人工智能的社会和经济影响，现在加入我们，将我们的经济学工作与模型培训和开发联系起来。

我们也在招聘。人类研究所正在组建一支小型分析人员队伍，他们将致力于将我们研究议程的各个部分整合在一起，并向世界传播我们的工作。您可以阅读更多内容这里。

扩大 Anthropic 的公共政策团队

除了成立人类研究所之外，我们还在扩大我们的公共政策组织。

公共政策重点关注 Anthropic 已确定优先事项和观点的领域，包括模型安全性和透明度,能源纳税人保护,基础设施投资,出口管制, 和人工智能领域的民主领导。加入 Anthropic 担任外部事务主管的 Sarah Heck 将担任公共政策主管领导该团队。在加入 Anthropic 之前，Sarah 曾担任金融科技公司 Stripe 的创业主管，并曾在白宫国家安全委员会领导全球创业和公共外交政策。

我们正在壮大公共政策团队，以帮助为世界各地的人工智能治理提供信息和塑造。我们将于今年春天在华盛顿特区开设第一个办事处，并迅速扩大我们的全球政策足迹。您可以查看我们当前的职位空缺这里。