“[Sam] Altman 用数字来衡量成功，无论是投资还是使用产品的人，而 [Demis] Hassabis 则追逐奖项，”Parmy Olson 在她的书中写道霸权，关于 DeepMind 和 OpenAI 的联合创始人。“[哈萨比斯]经常告诉员工，他希望 DeepMind 在未来十年内赢得三到五个诺贝尔奖。”
就在奥尔森之后几个小时韩元2024 年《金融时报》和施罗德商业图书奖霸权本周，哈萨比斯通过接受诺贝尔奖因其在人工智能系统方面的工作而获得斯德哥尔摩化学奖，该系统可以预测所有已知蛋白质的结构。
哈萨比斯已经距离他的雄心勃勃的目标更近了一位诺贝尔奖，这说明了人工智能正在改变世界的速度。奥尔森的艰巨任务是编写一本关于这种快速发展的技术且经得起时间考验的书。在本周的一次采访中，她说她想描述“[人工智能]控制权之战，以及……”。进行适当的监督。英国《金融时报》编辑鲁拉·哈拉夫（Roula Khalaf）是该书奖的评委会主席，他表示，奥尔森“出色地将人工智能的发展描述为一场激动人心的竞赛”，参赛者是具有精神头脑、痴迷于游戏的哈萨比斯和擅长数字运算的奥特曼。
奥尔森说，尽管哈萨比斯和奥特曼存在差异，但她也对他们的相似之处很感兴趣。两人都相信通用人工智能——人工智能超越人类认知能力的点——将解决我们当前的许多社会弊病和问题。两人都对人工智能缺乏监管和企业过度控制表示担忧。“两人都试图建立治理结构，将技术稍微分开并给予适当的监督，”她说，“但他们都未能做到这一点。”
谷歌现在控制着 DeepMind，而微软则支持 OpenAI，后者两年前公开推出的 ChatGPT 加速了生成式人工智能的使用。奥尔森说，随着创始人越来越与两家大型科技公司结盟，他们的乌托邦式、近乎人道主义的理想逐渐淡出了人们的视线。她打算霸权部分原因是对新兴科技寡头垄断的必要性的警告。
但鉴于人工智能的发展速度如此之快，现在对人工智能施加监管和道德限制是否为时已晚？彭博社科技专栏作家奥尔森不这么认为。她说，我们仍然有时间影响“科技公司如何设计算法”，以确保它们更安全、更少偏见。
欧盟的《人工智能法案》等立法规定了严格的监管制度，将实施监管。但奥尔森也指出，采购生成式人工智能系统的公司将对技术供应商施加限制。“正在进行大量实验，但实际上并没有那么多支出用于将这些人工智能系统付诸实践，因为确实存在对幻觉的担忧”。和偏见，”她说。“银行和医疗保健系统等公司都有自己的监管制度，他们需要确保在向客户推出人工智能驱动的产品和服务之前遵守这些制度。
今年图书奖推出时，曾询问过往届获奖者他们会添加什么如果他们有机会写下新的篇章的话。霸权该书仅于 9 月份出版，但奥尔森承认，未来的版本可能必须承认唐纳德·特朗普上个月当选的重要性，以及邻近性企业家埃隆·马斯克 (Elon Musk) 向美国当选总统致辞。
马斯克与 Altman 一起是 OpenAI 的联合创始人和早期支持者，之后分拆并创立了自己的初创公司 xAI，该公司正在培训 ChatGPT 和谷歌 Gemini 的竞争对手 Grok。奥尔森表示，她“确实对 Grok 筹集资金的能力增长如此之快感到惊讶”。然而，她警告说，马斯克在特朗普政府中的存在非但不会加速人工智能的宽松监管制度，反而可能“给工作带来麻烦”。“你必须记住，马斯克是人工智能的终结者，他创办 OpenAI 的部分原因是他非常担心谷歌控制 AGI”。
奥尔森对纯粹为了商业回报而将人工智能武器化的担忧是显而易见的。一些人工智能聊天机器人初创公司已经在鼓励用户和机器人之间建立情感联系。她担心广告支持的模型可能会助长聊天机器人使用的成瘾循环。“对于供应商来说，考虑用户的福祉将变得更加困难，因为他们的商业模式取决于用户尽可能长时间地使用他们的应用程序”。
然而奥尔森表示，她并不是在预测人工智能的反乌托邦。当英国《金融时报》提示 ChatGPT 为她生成一个“意想不到的问题”时，机器人问道：“如果人工智能在 100 年后书写人类的明确历史，它可能会有什么观点或偏见？”这段历史与今天人类书写的历史有何不同？
奥尔森回应道：“如果人类真的做出了努力”，并且一个更加公平的社会得以发展，“也许人工智能写下的任何内容”都会反映出这一点。我确实乐观地看待未来，所以我希望这实际上是一本非常鼓舞人心的读物。”