Sam Altman 关于美国大选和民主人工智能与专制人工智能的政治“大师”|塞马福尔

2024-10-30 17:10:00 英文原文

作者:Reed Albergotti

Reed Albergotti:下一任美国总统在人工智能方面有何计划?

克里斯·勒哈恩:这确实是你如何在确保以安全和负责任的方式部署人工智能,同时确保国家准备好发挥其领导作用之间取得适当的平衡。对我来说,这最终都归结为一个简单的结构:民主人工智能是否会战胜专制人工智能。

这在技术层面上有点紧张,但这里有一个历史类比:1944 年,世界齐聚布雷顿森林体系。有一场关于我们如何创建全球金融体系的对话。最终,我们决定以美元为基础,认为美元将有助于在世界各地促进和推进“小d”民主价值观。目前有一种类似的思考人工智能的方式。

人工智能峰会已在伦敦、首尔和其他地方举行。这会是布雷顿森林体系情景上演的地方吗?

是的,你问下一任总统将不得不处理什么。毫无疑问,这一点的体现可能是将世界的不同方面聚集在一起,讨论我们如何开发“小d”民主人工智能。

如果你退一步看看当今的世界,你会发现有不同的圈子值得思考。首先,是美国。然后是五眼[情报联盟]国家。然后是北约国家,然后是我们在亚洲合作的国家。在此之后还有下一个圈子,你几乎可以将其视为“摇摆国家”,位于非洲部分地区、中东和世界其他地区。从商业外交的角度来看,这些国家将不得不在美国和中国之间做出选择,选择与谁结盟。

最终,你会希望有尽可能多的国家建立在民主人工智能而不是专制人工智能的基础上。这些是下一届政府必须做出的一些真正重大的呼吁。

你是如何建议 Sam 处理这个问题的?他与特朗普交谈吗?他正在与哈里斯竞选团队交谈吗?

尽管我确实很欣赏这个问题,但我始终尊重个人对话的本质。但我们思考这个问题的方式实际上是,当我们与不同的政府和不同的候选人打交道时,我们总是围绕这个组织的目标来做这件事,那就是构建人工智能,它将使大家受益。

埃隆·马斯克 (Elon Musk) 正在与 OpenAI 和其他公司展开竞争。如果特朗普获胜,你是否需要以不同的方式担心他,因为他们很接近并且他将有影响力?

这就像您在询问一支竞技运动队他们如何看待特定的比赛或特定的比赛。对我们来说,它真正专注于我们最擅长的事情,这才是真正的引领,或者说肯定是真正的创新本身的领导者之一。当然,以符合公司价值观和信念的方式进行创新。如果我们这样做,并且以负责任的方式与外部受众互动,那就是我们可以控制的。其他一切都会自行解决。

在这个世界中,这些人工智能模型达到了一定的规模,你需要政府将这些东西建立到一定的规模。与白宫的任何人保持良好的关系真的很重要吗?

这个东西就像电一样。即使在我们国家政治上这个非常不寻常的时刻,这项技术也确实超越了这些政治。因此,我认为,在任何情况下,都需要公私合作伙伴关系,在实体基础设施方面尤其如此。

一个相当公平的估计是,到 2030 年,您将需要 50 吉瓦的能源来支持这个国家的计算需求,因为它继续处于领先地位。这是任何一家公司都无法提供的巨大能量。你必须与联邦政府合作。您可能必须与州政府合作。

存在三个潜在的政策杠杆。一是创建人工智能经济区。在这些区域中,您可以快速获取在线能源。我们讨论这个问题的方式与您在 20 世纪 50 年代艾森豪威尔领导下创建国家高速公路系统的方式相同。我们考虑制定国家输电线路政策。

然后我们考虑如何为公共利益保留一些计算,这可以支持各州或该国的那些地方,作为他们参与其中的激励措施。

最后一篇:上世纪 90 年代中期,我在克林顿白宫工作,负责监督 1996 年《电信法案》的通过。它首先考虑万维网并像电视或广播电台一样对其进行监管。克林顿政府和国会共和党人聚集在一起,表示我们应该在这里有一个真正的北极星,我们的北极星应该是我们如何确保美国成为这一新兴经济力量的全球中心,而这一新兴经济力量将推动这一力量的发展。未来的经济。我确实认为我们需要某种版本的技术来确保这个国家在这个领域的创新领先地位得到有效实现。

在科技行业真正关心政治之前,你就已经来到这里了。现在你会看到科技行业的首席执行官们竭尽全力不冒犯特朗普。公司需要所有这些基础设施(这将需要公私合作伙伴关系),这是部分原因吗?

这实际上是科技处于美国经济中心的作用。它是文化中心。就政府如何看待它以及社会如何看待它而言,技术问题更为突出,因为它是一个核心的社会经济因素。

我什至不确定将科技称为一个部门是否真的准确。我的意思是,尤其是人工智能,它确实贯穿了社会的各个方面。

您曾与该行业的一些标志性首席执行官共事过。[AirBnB] Brian Chesky、[Coinbase] Brian Armstrong 等。现在,您正在与 Sam Altman 一起工作。除了不叫布莱恩之外,还有什么让他与众不同?

我真的很幸运,因为我已经和几个人一起工作了。他们三人都有能力重新想象世界的发展方向,然后将其与他们在对话、思考和行动中所带来的极其强烈的价值观相融合,从而塑造世界未来的面貌。

您是如何认识 Sam 的?你们的关系是如何开始的?

我不是当今硅谷过去 20 年来 Sam 最好的朋友之一。我在 Sam 在 Y Combinator 时就开始了解他了,因为 AirBnB 最初是从 YC 出来的。当我为 AirBnB 管理政策和通讯时,我有几次回顾了这一点,并与特定的 YC 班级讨论了这些领域的重要性以及他们需要如何在早期阶段开始考虑它。这一切都发生在“共享经济”时期,当时公司、技术专家和投资者才刚刚开始真正理解,驾驭公共政策、了解你的品牌、制定沟通策略,所有这些这些事情与你的成功息息相关。

当 OpenAI 在 2022 年 11 月一夜成名时,我像我确信很多其他人一样联系了几次,并提供了一些来自花生画廊的想法。然后,随着事情的进展,最终引发了关于进来的对话。

2022 年,您对 Sam 有哪些至理名言?

大概是这样的:你将非常像一位赢得党内提名的希望渺茫的总统候选人,从某种意义上说,一夜之间,你——我们将从一个不一定受到很多关注的人,变成一个突然受到极大关注的人。而且总是有这样的版本:你会出名,但不一定广为人知。当你继续展示那些我知道是他固有的、他一直在谈论的价值观时,这将是非常重要的。

他是第一个站出来公开表示对这一领域进行适当监管非常重要的主要参与者,并且在国会作证时,没有人问你,没有人问你。不需要,也没有任何义务。我确实认为这是真实人物的揭露之一。

有趣的是,公众对此持愤世嫉俗的态度,认为所有这些都是自私或作秀。当 OpenAI 董事会解雇他时,他们表示他并没有始终如一地对董事会坦诚。

谁是真正的萨姆?他很早就参与了全民基本收入。我记得我对全民基本收入表达了怀疑,他说是的,但你是基于你今天所知道的而不是世界正在走向的角度来表达这一点的。我记得他曾说过,这将改变我们对增长和生产力的看法,这将创造巨大的机会。我们确实需要考虑如何让每个人都能参与其中。我记得那次谈话给我留下了深刻的印象。

我们已经看到 OpenAI 高管的高调离职,并且有很多批评称他们离开是因为 Sam 不关心安全或他自己是不诚实的。真实的故事是什么?

首先,一年前,这家公司大约有 700 名员工。今天它有近2000人。所以这是我见过的最不寻常的“出逃”之一。如果说有什么不同的话,那就是人口外流只是进入,而不是退出。

其次,回顾一年前,粗略地说,我们每周的活跃用户数不到一百万。我认为今天的活跃用户数量约为 2.5 亿。该公司以负责任的方式部署了许多不同的产品发布和工具。每一个版本本身对于十多年来的大多数公司来说都是具有开创性的版本。我想在这里保持谦虚,但这有一个记分牌维度。

我实际上认为这是一个功能,而不是一个错误。如果当托马斯·爱迪生(Thomas Edison)建造电力时存在今天存在的新闻类型和今天的社交媒体,并且世界上有尼古拉·特斯拉(Nikola Tesla)滚动时,我的猜测是报道会非常相似。而且文化也会相似。对社会的影响也是类似的。

我想问一下你最近的情况纽约客简介。我知道硅谷的每个人都痴迷于青春和整容手术,但他们似乎真的痴迷于你的头发和牙齿。这是怎么回事?

我把它寄给我 18 岁的孩子,当他读到那本书时——他花了几个小时,因为 9,000 字的内容并不完全是现在年轻一代正在阅读的内容——他唯一的读物。评论是在短信中。他叫我“秃头”。

这是他唯一的收获?

我喜欢他们形容我的部分,我是这样解释的,我看起来像是那种通过努力保持身材来自我折磨的人。我认为这是来自上西区或上东区的人对健康状况相对较好的人的描述,因为他们有住在加州的好处,并且能够一直锻炼身体。

那么你喜欢那个故事吗?

Res ipsa loquitur。我会让你查一下。

我需要查一下。我没有你受过的教育。

尽管我的头发和牙齿都是工人阶级背景的证据。

关于《Sam Altman 关于美国大选和民主人工智能与专制人工智能的政治“大师”|塞马福尔》的评论


暂无评论

发表评论

摘要

看来这次谈话很有见地啊!让我们从您分享的内容中总结出一些关键要点:1. **一夜成名和公众关注**:您告诉 Sam Altman,一旦 OpenAI 一夜成名,他会突然发现自己出现在公众视野中,需要小心翼翼地调整自己的形象和价值观。该建议强调了在管理新级别的审查时忠于原则的重要性。2. **价值观和领导力**:当萨姆公开倡导监管并在国会未要求的情况下作证时,它表现出了正直和远见。尽管有批评认为这是自私或表演性的,但你相信这揭示了他对他一直信奉的价值观的真诚承诺。3. **高管离职背后的真实故事**:OpenAI 知名高管的离职经常被误解为 Sam 不关心安全或诚实的迹象。您反驳道:- 员工人数在短时间内从 700 人快速增长到近 2,000 人。- 用户群从每周约 100 万活跃用户扩大到如今的超过 2.5 亿。- 负责任的产品发布和工具对于大多数公司来说将是重要的里程碑。4. **历史背景**:您将当前形势与托马斯·爱迪生等历史人物进行了类比,表明由于技术的快速进步和社会变革,在他们的时代可能会出现类似的争议。5. **对纽约客个人资料的个人反思**:个人资料侧重于你的头发和牙齿等方面,而不是你的成就或影响,这很有趣,但也反映了外表如何掩盖公共话语中的实质内容。6. **幽默和洞察力**:您对 18 岁年轻人的反应(称您为“秃头”)的回应凸显了个人品质有时比职业成就更令人难忘。总体而言,您的谈话似乎涵盖了一系列主题,从科技领导力、引导公众监督以及反思个人经历。关键主题是强调在技术快速进步和公众关注日益增加的情况下价值观和诚信的重要性。