(要收到与世界顶级首席执行官和决策者的每周一次有关对话的电子邮件,请点击这里。)
马特·加曼(Matt Garman)于6月在美国科技巨头的云计算部门Amazon Web Services(AWS)掌管,但他大约在19年前以实习生的身份加入了该公司。他继续成为AWS的第一位产品经理,并帮助建立和推出了许多核心服务,然后去年最终成为首席执行官。
像许多其他科技公司一样,AWS是亚马逊最有利可图的单位,在AI上大放异彩。2023年4月,该公司推出了亚马逊基岩,该基地使云客户访问了AI公司建立的基础模型,包括人类和Mistral。在12月在拉斯维加斯举行的RE:Invent会议上,AWS发表了一系列公告,包括新一代基础AI模型,叫做诺瓦。它还说,它使用AWS的巨型AWS Trainium 2培训筹码群建立了具有人为合作的世界上最强大的AI超级计算机之一,它与之建立了战略合作伙伴关系。
RE:Invent会议几天后,Time与Garman进行了交谈,他的AI野心,他如何思考确保技术安全以及公司如何平衡其能源需求与排放目标。
为了清楚起见,这次采访已被凝结和编辑。
当您在6月接管AWS时,人们认为亚马逊在AI比赛中有些落后。在过去的几个月中,您的战略优先级是什么?
我们在AWS内部进行AI的历史悠久,实际上,在过去的十年中,人们使用的大多数最受欢迎的AI服务(如Sagemaker)都是建立在AWS上的。有了生成的AI,我们开始真正倾斜,尤其是当Chatgpt出来时,我认为每个人都对此感到兴奋,这引发了每个人的想象力。实际上,我们[]在此之前一直在研究生成AI。当时,我们的信念仍然存在,现在仍然是,对于每个行业,工作流程和用户体验,AI将成为一种变革性的技术。由于我们的客户群是谁,我们的策略始终是建立一个健壮,安全,性能的平台,人们可以真正将其集成到实际的业务中。因此,我们并没有很快迅速在我们的网站上投入聊天机器人。我们真的很想帮助人们建立一个可以深入整合到数据的平台,从而保护他们的数据。那是他们的IP,对他们来说非常重要,因此[我们]有安全感,并为您提供了各种型号的选择,为您提供了一整件事的功能,并真正帮助您构建了应用程序。并弄清楚您如何真正获得推理并真正利用这项技术,这是您在企业中所做的关键部分。这就是我们过去几年一直在建立的。在过去的一年中,我们开始看到人们意识到这就是他们想要[做]的事情,并且随着公司开始从发起一百个概念证明,到真正想要转向生产。他们意识到平台是他们需要的。他们必须能够利用他们的数据。他们想自定义模型。他们想使用一堆不同的型号。他们想拥有护栏。他们需要与自己的企业数据源集成,其中很多都在AWS上,因此他们的应用程序是AWS。
我们对以下长期的看法:获得正确的构建,正确的平台,具有正确的安全控制和正确的功能,以便企业可以长期构建,而不是[试图]快速获得一些东西。因此,我们愿意接受人们认为我们落后的看法,因为我们坚信自己正在建立正确的东西。而且我认为我们的客户在很大程度上同意。
除了以前数百万的初创公司,您还提供价值10亿美元的云积分。您是否看到在与下一个拟人或Openai的早期阶段开辟了更紧密合作的机会?
是的,我们长期以来一直投资于初创企业。这是AWS建立我们的业务的核心客户基础之一。我们认为初创公司对AWS的成功很重要。他们给了我们很多深刻的见识。他们喜欢使用尖端技术。他们向我们提供有关如何改善产品的反馈。坦率地说,它们是明天的企业,因此我们希望他们开始在AWS上建立建设。因此,从AWS的最早日子开始,初创企业对我们至关重要,这只是我们对帮助他们前进的承诺的一倍。我们认识到,作为一家初创公司,在实现业务发展之前尽早获得一些帮助,可以产生巨大的变化。这是我们认为有助于我们使用该客户群建立积极的飞轮的一件事。因此,我们对继续与初创企业进行深入合作感到非常兴奋,而这是其中的一部分。
您还可以建立最大的AI超级计算机在世界上,火车2芯片。在您AI策略的中心,正在为AI开发建立硬件和基础架构吗?
当然,这是它的核心部分。我们有这样的想法,即在我们所有的AWS业务中,这种选择对我们的客户非常重要。我们希望他们能够从最好的技术中进行选择,无论是来自我们还是来自第三方。客户可以为其应用,用例以及他们从成本性能权衡中寻找的东西选择绝对最佳的产品。因此,在AI方面,我们希望提供相同的选择。建筑Tranium 2是我们第二代高性能AI芯片的建筑,我们认为这将提供选择。
Nvidia是我们非常重要的合作伙伴。如今,绝大多数人工智能工作量都在NVIDIA技术上进行,我们希望这将持续很长时间。他们生产出色的产品,团队的执行效果很好。我们对Trainium 2带来的选择感到非常兴奋。成本是许多人考虑其中一些AI工作量时担心的事情之一,我们认为Trainium 2可以帮助降低许多客户的成本。因此,对于那些希望培训这些大型群集的人工智能公司,我们都对此感到非常兴奋,例如,Anthropic将在Trainium 2上培训他们的下一代,行业领先的模型 - 我们我们正在建设这是一个巨大的群集,是他们上一个集群的五倍,但随后有很多在做推理或使用基石或制作较小群集的人,我认为客户有一个很好的机会,可以降低使用Trainium的成本。
与NVIDIA GPU簇相比,这些集群便宜30%至40%。哪些技术创新可以节省这些成本?
第一名是团队做得非常出色,并制作了一个非常好的芯片,表现非常出色。因此,从绝对的基础上,它可以为某些工作负载提供更好的性能。这是非常取决于工作量的,但是即使是苹果(Apple),在早期测试中,他们的价格绩效收益最高为50%。这是巨大的,如果您真的可以获得30%,40%甚至50%的收益。其中一些是定价,我们专注于建造一个芯片,我们认为我们可以真正降低为客户生产的成本。但随后的表现也不断提高。该团队已经建立了一些创新,我们在AI培训和推理中看到了瓶颈,我们已经在筹码中建立了以提高特定功能性能等。提供这种类型的性能,但我们对此感到非常兴奋,并且我们在Trainium系列中进行了长期投资。
该公司最近宣布了诺瓦基础模型。这是为了直接与GPT-4和Gemini之类的人竞争吗?
是的。我们认为在这些基础模型的领域中有选择很重要。是直接竞争对手吗?我们确实认为我们可以提供差异化的功能和性能。我认为这是一个很大的机会,并且有如此重要的机会来改变许多不同的工作量。这些非常大的基础模型 - 我认为其中有十几个,可能不到10个。我认为它们每个人都会在不同的事情上表现出色。[使用] Nova模型,我们专注于:我们如何提供非常低的延迟和出色的价格绩效?他们实际上很擅长进行抹布[检索效果的一代]和代理工作流程。今天还有其他一些模型在其他情况下也更好。我们将继续推动它。我认为其中有许多空间,但是我们对这些模型感到非常兴奋,并且客户接待非常好。
您与拟人化的合作伙伴关系如何适应此策略?
我认为他们是世界上最强大的AI团队之一。他们现在拥有世界领先的模式。我认为大多数人认为十四行诗是推理和编码以及许多其他事物的顶级模型。我们收到了客户的很多很好的反馈。因此,我们喜欢这种合作伙伴关系,我们也从他们那里学到了很多东西,因为它们在火车之上建立了自己的模型,因此我们可以从他们那里学习,在我们的顶部学习。我们的客户可以利用将他们的模型在基岩内部的内部利用,我们可以一起发展业务。
您如何考虑确保AI发展的安全和责任?
这非常重要。它在堆栈上下上下。客户对我们的模型感到兴奋的原因之一,除了表现出色之外,我们也关心安全性。所以有几件事。一个是,您必须从一开始就开始构建模型时,考虑到您如何在其中拥有尽可能多的控件?您如何对模型进行安全开发?然后我认为您需要在这个领域的皮带和吊带,因为您当然可以让模型说您可以说的话 - 哦,看看他们所说的话。实际上,我们的客户正在尝试整合我们的客户这些进入他们的应用。而且不同于能够生产炸弹或其他东西的食谱,我们绝对希望拥有安全控制,安全和控制模型实际上是针对非常用例的特定范围的。如果您正在构建保险申请,则不希望您的申请提供医疗保健建议,而如果您要建立医疗保健,则可以。因此,我们为客户提供了很多控制权,以便他们可以围绕模型的响应来建立护栏,以真正指导他们希望模型回答这些问题。我们在RE:Invent上启动了许多增强功能,包括我们所谓的自动推理检查,实际上可以为您提供数学证明,以确保我们是否可以100%确定答案是正确的,基于您的数据库已经进入模型。消除一部分答案的幻觉也非常重要。在客户应用程序的上下文中,不安全的变化可能很大,因此我们试图为客户提供一些非常好的控制权,以便能够定义这一点,因为这将取决于用例。
能源需求是这项业务的巨大挑战。到2040年,亚马逊致力于净零排放量目标,您报告了一些进步那里。您打算在投资大型基础设施的AI时继续减少排放量?
第一是您只需要对我们如何确保世界具有足够的碳 - 零功率的长期观点。我们是可再生能源交易,网格的新能源交易的单一最大的购买者,因此委托新的太阳能农场或风电场等。我们在过去五年中一直是最大的企业购买者,并将继续这样做。即使在那条道路上,这可能还不够快,因此我们实际上已经开始投资于核。我确实认为这是一个重要的组成部分。它将成为该投资组合的一部分。我们已经投资了大规模的核电厂,而且我们对小型模块化反应堆技术非常看涨,这可能比真正的批量生产距离六到七年了。但是我们很乐观,这也可以作为该投资组合的一部分而解决。
在整个业务中碳零的道路上,仍有许多发明仍需要发生。我会坐在这里,告诉您我们知道您将如何在零售方面跨海和飞机运输碳零运输的所有答案。世界必须追随大量挑战,但这就是我们做出这一承诺的部分原因。我们将与里程碑一起制定计划,因为这对我们来说是一个非常重要的目标。有很多工作要做,但我们致力于这样做。
作为那个核作品的一部分,您正在支持这些核能项目的发展。您正在做什么,以确保项目在部署的社区中安全?
看,实际上,我认为环境最糟糕的事情之一是核工业在50年代犯了错误的错误,因为这使每个人都觉得技术不那么安全,当时可能还没有,但是,已经70年了,而且技术已经发展,它实际上是一项非常安全,安全的技术。因此,其中很多事情实际上都是完全独立的,没有大量崩溃的风险或以前发生的事件。这是一项已经经过了经过良好测试的超级安全技术,并且已经在全球范围内一直在生产数十年。我认为,人们仍然有一些恐惧,但是实际上,越来越多的地理学意识到这是一项非常安全的技术。
您想从新总统管理的政策方面看到什么?
我们认为美国政府是我们在董事会上下支持的最重要客户之一,并将继续这样做。因此,我们非常兴奋,我们认识了许多人,并很高兴能一起继续共同努力,因为我们确实将其视为任务。对我们来说,这都是一个好生意,但它也是帮助我们国家移动更快,控制成本,变得更敏捷的能力。而且我认为这非常重要,因为您考虑到我们的政府可以使用最新技术,这是非常重要的。我确实认为AI和技术越来越成为我们国防部的重要组成部分,可能与枪支和其他类似的事情一样多,因此我们非常重视这一点,我们很高兴能与政府合作。我对特朗普总统及其政府可以帮助我们放松一些更快地构建数据中心的限制感到乐观。我希望他们能帮助我们削减一些官僚主义的繁文tape节并更快地移动。我认为这将很重要,特别是因为我们想维持在中国和其他人之前的美国的AI领导。”
在整个职业生涯中,您对领导力有什么了解?
我们很幸运能够吸引世界上一些最有才华,最有驱动的领导者和员工,我很幸运能够与其中一些人合作,并试图清除障碍对于他们来说,他们可以为我们的客户带来出色的结果。我认为,如果我们有一支真正专注于解决客户问题而不是发展自己的责任或内部目标范围的聪明团队,并且如果您能够将这些团队集中在这方面,并妨碍他们的障碍并消除障碍,则然后我们可以交付很多。因此,这主要是我的工作。我认为自己不是任何一件特定事物的专家。我的团队中的每个人通常都比我想做的一切都更好。我的工作是让他们尽可能多地完成工作,并偶尔为他们在公司或组织的其他部分或其他客户投入的其他部分上连接点,他们可以整合他们并合并。
您与之紧密合作安迪·贾西(Andy Jassy),您从看着他作为领导者中学到的东西有什么特别的东西吗?
我学到了很多。他是一个杰出的领导者。安迪(Andy)非常擅长拥有很高的标准,并且对团队的期望很高,并且对我们为客户提供的服务很高。他拥有很多愿景,以及一些启动AWS的核心人员,以及我们如何看待业务的一些重要宗旨,专注于安全和运营卓越,并真正专注于我们如何为客户提供服务。一个
您2025年的优先事项是什么?
我们的首要任务始终是保持出色的安全性和卓越运营。我们希望帮助客户为即将发生的AI转换做准备。不过,其中一部分也在帮助将所有应用程序用于可以利用AI的地方。因此,对于我们而言,帮助客户继续向云进行迁移是一个非常重要的优先事项,因为如果他们的数据被困在前提和旧数据存储和其他方面,他们将无法利用AI。因此,帮助人们将其数据和分析堆栈现代化,以将其纳入云中,并将其数据链接进入云中,并以他们真正可以开始利用AI的方式进行组织,这对我们来说是一个很大的优先事项。然后,我们如何帮助扩展AI功能,为客户降低成本,而我们不断增加价值。在2025年,我们的目标是使客户真正地将AI工作负载转移到生产中,从而为其业务带来丰厚的投资回报率。这可以确保所有数据都在正确的位置,并确保它们具有正确的计算平台。我们认为Trainium将成为其中的重要组成部分。最后一个位是帮助顶部添加一些应用程序。我们认为,我们可以增加帮助员工和其他人获得这种有效性的额外好处。其中一些是将接触中心转移到云中。其中一些正在帮助使对话助手和AI助手交到员工手中,因此,亚马逊Q对我们来说是重要的一部分。然后,这也只是赋予我们广泛的合作伙伴生态系统快速发展并帮助客户发展的能力。