AI如何使未来不可想象

一个很棒的故事，，，，纽约阅读推荐新闻通讯。在这里注册每晚得到它。去年6月，24岁的前Openai雇员Leopold Aschenbrenner出版

情境意识：未来的十年，关于人工智能的紧​​急宣言。您可以在旧金山首先看到未来。在过去的一年中，该镇的讨论已从100亿美元的计算集团转移到1000亿美元的集群，转变为万亿美元的集群。他写道，每六个月将另一个零添加到董事会计划中。AGI种族已经开始。我们正在建造可以思考和推理的机器。到2025/26，这些机器将超过许多大学毕业生。到十年末，它们将比您或我更聪明；从真实的意义上讲，我们将拥有超级智能。那意思是？将这个问题留给您最疯狂的梦想或噩梦，Aschenbrenner召集了这一点：人类的完全解放，完全压制或灭绝。

Aschenbrenner认为，通往AGI或人工通用情报的道路已经铺好。AI发展趋势线是准确的，并且会融入未来；我们很快就可以用完基准，而是像代理商一样的助手将能够完成AI工程师的工作，从而使技术的发展加速到超级人类。如果我们很幸运，我们将与CCP进行全面的比赛；他写道，如果我们不幸，一场全面的战争。但是现在，可能有几百人，其中大多数在旧金山和AI实验室，情境意识……告诉你我们看到了什么。

不到一年后，Aschenbrenner拥有更多的公司，而AGI品牌也很强。AI高管，其中一些人多年来一直在用类似的话说，越来越大胆。萨姆·阿尔特曼（Sam Altman）在两个月前写道：``我们现在有信心我们知道如何建立我们传统上理解的AGI。拟人化的达里奥·阿莫迪（Dario Amodei），他更喜欢这个术语强大的AI以及一个数据中心中一个天才国家的形象，提出到2026年可以实现这样的事情，尽管还有多种方法可能需要更长的时间。宣言有些充满希望，表明这项技术可以在结构上提高人类健康并减轻贫困，但要警告说，他认为“没有强有力的理由相信AI会优先或在结构上促进民主与和平。……在2030年代初期，我们可以期望达到寿命逃生速度，在这种情况下，我们每年通过衰老而失去的一年，我们都会从科学进步中恢复过来。）

在实验室外，可能认为自己处境的人口 随着新的研究和产品已广为人知，尽管不均匀地扩展了。在纽约时代，埃兹拉·克莱因（Ezra Klein）与一位前拜登政府AI顾问进行了对话：政府知道A.G.I.来了 ``在过去的几个月中，我经历了这种奇怪的经历：一个又一个人的人，来自人工智能实验室。写。一周后，专栏作家凯文·罗斯（Kevin Roose）更直接地回应了Aschenbrenner的前提：

在旧金山，我基于A.G.I.的想法不是边缘或异国情调。人们在这里谈论感觉到A.G.I.，并且建造比人类的A.I.系统已成为一些硅谷最大的公司的明确目标。每周，我都会遇到A.I.工作的工程师和企业家谁告诉我，变化的大变化，震惊的变化，我们从未见过的那种转变在拐角处。

像罗斯（Roose）和克莱因（Klein）一样，我怀疑有很多对AI有强烈看法的人会惊讶地看到LLM模型可以做什么今天而且，更多这样的惊喜将会到来，在工作场所及其他地区，一些令人震惊和稳定的。我也是打开到宣称虽然从许多方面具有启发性，但破碎的聊天机器人和荒谬的AI答案和摘要，更不用说AI的惊人扩散垃圾邮件和坡，提供简单的方法来注销每周进步的技术。但是我不太感受到agi的感觉， 至少在上面概述的方式中。我自己的抵抗力很容易解释，同样是一个理性的人无视。我不可能在AI实验室中作为研究科学家的工作，而是在裸露和缩小的技术知识知识工作中经历了我的日子，要求和灌输！对科技行业的强烈怀疑。我也是一个终身的科幻迷，长大了阅读和重读耀眼Vernor Vinge关于奇异性的书籍，在文学中的机器意识的表现中扭曲了论文（我们担心它已经有一段时间了），并分配了我一个和唯一的一生中的许多小时，以代谢有关理性主义论坛上的超级智能的论点，而长期的AI HUB LISSWRONG则在较少的时期内，以较少的速度。多年后，我采访了库兹韦尔（Kurzweil）关于他奇怪而短暂的电子书启动当他拿下几件长寿补品时；现在，奇异先生是回到聚光灯，想知道他的时间是否来了。换句话说，我一直和Agi坐在一起故事有一段时间，我可能会异常倾向于用叙述来看待它：作为对梦，噩梦或野心的描述，而不是作为理解甚至非常强大的新工具的有用框架。

迷失在Agi恐惧和温柔的期待中，这是一个事实，尽管围绕Agi进行讨论的技术是新颖和新的，但我们听到的故事并非如此。当今的Agi故事的精英拥抱是对过去的精英和前任的自动化故事所包含的AI故事的重述。可以说，我们在未知的技术领域中居住，但这也是一种真实性。我们还在哪里？作为工人或政治家，监管者，工业家或好奇的公众，我们以前都面临着政治和经济不确定性的技术突破和时刻。所有这些时刻为叙述发明也是如此。在更愤世嫉俗的部署中，AGI像AI之前一样，是一个伪装成描述性术语的营销故事。这是一个重新品牌和缩小并指导我们对未来的集体观念。一个 

也许这并不重要，这次是完全不同的，几十年来的终点是关于机器人格化和最终统治的预测，最终终于出现了。历史可以告诉我们其他情况，技术变革确实即将到来（尽管又是什么时候？）。但这可以提出一些有用的建议，当涉及到诸如 Agi，有几个。

在他的2022年书中工党的结局，历史学家Jason Resnikoff重新创建智力史上可能会感到或至少听起来很熟悉的时期：

约翰·迪巴尔德（John Diebold）写道，几乎没有人反对自动化。``事实上，几乎每个人都在为此，因为这是一个暗示进步的词。人类社会自从男人停止狩猎和钓鱼并开始种植自己的食物以来，这需要一份新的人权宣言，其中人们从工作中解放出来。 

社会学家和公共知识分子丹尼尔·贝尔（Daniel Bell）写道：“工业工作已经失去了在资本主义工业秩序中的理由。”工会领导人沃尔特·鲁特（Walter Reuther）告诉国会，我们相信我们确实站在科学和技术发展中我们所经历的实际上是在我们的环境中，我们将在我们的范围内实现技术，这是我们的工具，我们将在技术上实现工具，这是我们真正革命性的变化。

Resnikoff指出，开创性的计算机科学家诺伯特·维纳（Norbert Wiener）指出，毫无疑问，这将导致第二次工业革命，而汉娜·阿伦特（Hannah Arendt）写道 - 汉娜·阿伦特（Hannah Arendt大规模自动化的前景是谨慎地被视为迫切重要性的问题，以免它成为诅咒。

这种与新自动化概念的广泛而迅速的参与是对不稳定的经济状况以及工业过程中新的，快速发展的发展的回应，许多人在战争中加速了。它也与对计算机的不断提高的意识相对应，这些计算机突然能够具有非凡的，不直觉的和狭义的超人事物。例如，GE告诉客户的数据处理系统可以处理各种各样的分类和簿记任务。不仅仅是营销新产品；他们描述了无法控制的力量，并提供了一种方法边与他们一起，或至少要针对他们购买保险。（1955年也是研究探索前沿计算能力的研究领域的一年结果在新的耐用造币中：人工智能）

作为一个故事，一个品牌的自动化也同时模糊，广阔且功能强大。1958年，该国短暂陷入衰退之后，国家提出，经济状况可能很快可能是可怕的，而且是无法识别的，而且紧急关注必须付款：``我们盲目地跌跌撞撞地进入自动化时代。 包括技术人员和激进主义者警告了迫在眉睫的网络化，该术语被马丁·路德·金（Martin Luther King Jr.

网络革命是由计算机和自动化自动调节机的组合带来的。这导致了几乎无限的生产能力系统，需要逐渐减少人工劳动。网络化已经在重组经济和社会体系以满足其自身需求。

这些宣言是在2025年司空见惯的自动化和人工智能，，，，Agi，或Openai超级碗广告对于情报时代。自动化，它们是为了精确而而是新颖性和模糊性采用和销售的术语。自动化是一种新的机械化，剥夺了工业革命遗产（人类绝望，资本份额下降）和重新掌握具有重力，神秘感和潜力（空房间中的呼啸而过的机器）。通常，它是一种不可避免的话语。Resnikoff告诉我，自动化代表了自动化，这是一个政治问题的说法，这本身就是技术发展的展开。

在1950年代，立法者对自动化的新事业和令人震惊的发展感到震惊 - 不仅在贸易杂志中，而且大众流行杂志，也对该主题举行了听证会。定义自动化Resnikoff写道，这是一个始终如一的关注点，闹鬼并最终有助于中和该项目。小组得出的结论是，自动化运动的经济意义不应受到其定义的精确判断或限制，无论如何，它们显然是在工业时代的门槛上，未来对未来的敬畏之情。危害和警告劳工领导人对现状的盲目防御。

经过大量的审议，换句话说，即将重塑经济以及人类在世界上的地位，沦为宣传运动。基于广泛的自动化只是时间问题。政府没有办法告诉企业如何处理它，而企业也没有做任何事情，而是谨慎地将其赋予其最大潜力。自动化以当前要求工人的略微更好的术语来构成了未来，例如，听起来像是浪费能量。Resnikoff建议，这是一个放弃工作的论点，而工作场所则是一个有争议的，可组织的，政治空间。为什么要打扰？工作的结束是近在咫尺。

快进到2025年，当时广泛报道和辩论的政府委员会在很大程度上被一项名为“播客”的新技术取代，我们遇到了时代克莱因询问前Biden AI顾问本·布坎南（Ben Buchanan）沿着类似的路线：

这使我在有关AI的政策对话中感到沮丧。

您开始讨论有关人类历史上最具变革性技术的方式 - 在两到三年的时间范围内降落。你说：哇，这似乎很重要。我们该怎么办？

克莱因（Klein）继续说，这是政策辩论关于任何事物？如果这么大，但没有人能完全解释我们需要做什么或谈论的事情 - 除了可能出口芯片控件，我们只是没有足够的创造性地思考吗？在采取政策行动之前，您必须对自己做什么以及为什么要了解。小的有点有趣，但这也很重要。他们描述了或至少以相同的方式响应同样的故事：迫在眉睫且不可阻挡的大事会改变一切，而实际上无能为力。

阿吉，喜欢g - 否则AI，自动化甚至机械化确实是故事，但它们也是续集：这次，该技术是不可想象的，不可避免的。它是拟人化的，并赋予了自己的意愿。如果机械化工厂的图像，自动化召开没有人的工厂的图像，以及人工智能人类机器机器助手，Agi和ASI召唤一个经济和更广泛的世界，在这个世界中，人类要么被超人机器无限而强大，要么被他们统治和征服（或甚至被杀害）工业革命3：机器人觉醒）。在想象未来的集中机器威权主义时，Agi创造了一种专制，排他性的话语 现在。出现了一个叙述，其中AGI利益相关者的决定，其投资者，也许是一些政府领导人。我们其余的人居住在主题和观众的角色中，但没有作者。

即使在更乐观的用法中，该术语Agi仍然起作用言辞黑洞，最终消耗任何更大的论点，并将其纳入其压倒性的前提：它来了；有一个前后；它会改变一切；我们对此无能为力；也许，实际上，这是如此聪明，以至于解决问题将不再是我们的问题。（这也许可以解释为什么诸如Aschenbrenner的干预措施以及它们在媒体和在线其他地方的同行倾向于跳过与中国与中国进行最终战斗的地缘政治战争，以控制技术 - 至少要谈论的是AGI在Sci-Fi World-Building中的热情锻炼，这是一位宣布的一位，这是一位宣布的一位。帕斯卡（Pascal）赌注的幽闭恐惧症的重新制作，哲学家的17世纪论点，即您也可以相信上帝：在这一点上，您可能会认为我和其他所有SF-Folk都是完全疯狂的。但是考虑一下，只是一会儿：如果他们对的话怎么办？（本着非常认真对待事情的精神，对这个问题的一个答案是政府抓住Leopold Aschenbrennerner超级智能投资基金昨天。）

这些表述非常是更广泛的政治背景的产物。在1950年代和60年代初，有可能具有不同利益的各个政党 - 工业家，主流政客，劳动力领袖，左派理论家可能会想到自动化的未来，即使不是乌托邦式，也不是完全绝望的。至少，从政府占领了技术进步的秘密的商业领袖在谈论工作时谨慎。关于劳动和失业不安的私人表达是部分是什么激发了库尔特·冯内古特（Kurt Vonnegut）离开GE的公共关系工作，写了他的自动化小说，演奏钢琴，，，， 但是高级加工技术沃尼古特亲眼目睹了。

相比之下，今天的AI领导者将启示录视为一种营销策略，在未来的UBI上打手势，而他们大声地想知道他们是否实现了人类的结束，那么下周表演好像他们没有。在此过程中，他们成功地将关于AGI和ASI的深奥话语纳入了当代对实际AI部署的批评，同时对AGI和ASI进行了批评。这不仅是关于筹集资金，这是AGI不可能的目的醉人（再一次，熟悉的）故事。在关于AI的讨论中，当一切都以指数级变化时，在版权或有偏见的培训数据上的争议或偶然部署的AI系统的质量和性能中陷入困境是什么？除此之外，在工作场所中，组织或计划未来的目的是什么？除了工作场所之外，凭借思想般的软件距离醒来只有几个生动的梦想，还有什么要做什么？公平哀叹AI覆盖范围和公众舆论的快速两极分化。我还建议，不断地知道对未经反思的，各种定义的调用，但显然不可阻挡的 - 与之有很大关系。

这也可以帮助解释为什么AGI下游的某些话语甚至比他们的前任都黯淡。在美国世纪初，技术决定论可以采取不可避免的自动化形式可能改变一切，可能带走每个人的工作，可能使每个人的生活更轻松。（可容纳超人能力移动甚至计算能力的机器。）现在，当美国人曾经像解决艰苦的集体问题方面一样沮丧时，它采取了一种机器人的形式，它可以改善自己的创造者，直到其创造者的创造者对创造者的方式看待虫子（不可能具有超级人类的能力）。皮尤（Pew）最近的一项调查发现，AI专家的态度与持怀疑态度的公众之间的差距很大，最重要的是担心工作。 名义上更乐观的专家对迫在眉睫的AGI固定并不培养理解或突出前进的道路。它进食绝望。它跳过了无数的决策，并为如何应用和部署技术而战。

同样，越来越清楚的是，Agi的话语（例如自动化话语）从根本上讲是一系列对话，他们在某种意义上相信或想相信他们负责，应该决定对其他所有人的最佳选择。使事情复杂化的事实是，他们认为AGI对这种状态构成威胁，AGI有望成为房间中最聪明的人。这既限制了有关基础技术的讨论的范围，实用性和范围，又有助于解释它们已经成为恐慌，奇怪和迷失方向的：在故事的这些版本中，它不仅是工厂工人或办公室的无人机，而且是自我任命的认知精英，他们在世界上也失去了自己的位置。

我的意思不是建议我们应该在对技术和变革的历史担忧中寻求太多的安慰。事后看来，自动化话语中嵌入的许多具体主张是显而易见的和正确的。的确，如今许多美国人从事的工作就不存在自动化是一个新的术语，计算机的迅速采用远比大多数人想象到的术语是新的，这些术语已超过了早期的定义人工智能与社会崩溃的总体分解不一致，而是单位数字的失业率。确实，这一过程是技术性的，但在每个阶段都不可避免地是政治，文化和有意义的竞争，从而导致工作流离失所，重新锻炼和咨询服务，区域成功案例和区域启示录。

关于自动化的论述最重要的是，其多样化的参与者似乎同意该国是突然的，不可谈判的步骤变化的风口，这也是他们与正确的一件事。事实证明，未来比升级周期更为复杂：在接下来的25年中，美国在制造业中就业增加并保持相对稳定20；但是，现在，选择一个例子的美国汽车制造业工作质量和数量都会减少（它们也坐着，尽管p不休，附近三十年高）。现在，制造业的增长是骨不连；同时，接近真正的灯光的汽车工厂是上网在中国，随着汽车本身变成消费电子产品。经济更大，更有生产力，但也更不平等。

美国远离制造业，以及90年代的一部分技术故事，机器人已经实际上消除自动制造工作。这也是一个关于贸易，宏观经济冲击，大规模服务部门繁荣，有组织的劳动和的故事政治（例如，您的401（k）本周）。最重要的是，关于成千上万的决定，选择和战斗的故事，而不是命运。对于福特及其类似的公司而言，自动化并不作为预测或描述作为意图声明。现在，Agi是一种重复和升级。首先是熄灯的工厂，然后是灯出去的办公室，然后，最终是灯光头脑。有问题吗？

正如Tressie McMillan Cottom所写的那样，这样的故事Arent``仅仅是因为令人信服的是准确的。在AI社区中，有些人对关注AGI的关注引起了人们的关注。2月，一群研究人员发布了一篇论文警告，反对使用AGI为AI研究的北星目标，争论它代表了一系列陷阱，这些陷阱破坏了我们选择有效目标的能力。科学，另一组研究人员争论对AGI的关注导致了对实际的基于LLM的工具的潜在和变革潜力，不应将其理解为通用技术，例如蒸汽机或电力，而是人类可以用来组织，访问和操纵大量信息，类似于市场，类似于市场，州官僚机构，官僚机构，甚至更旧的搜索（或更单位）的搜索（或在线）。

这些都不是对技术变革的不屑一顾的评估。（解释保罗·福特，描述基于LLM的AI作为软件，或者理解奇怪而多功能的新工具的匆忙作为用令牌查询的矢量数据库的结果，这是一种解雇它们的方法。这只是说出他们令人难以置信的一种不同的方式。）他们只是坚持认为，我们当前和未来的情况必然是可以知道和可以谈判的，而不仅仅是迫在眉睫的或即将到来的。

Google分享了一个有用的贡献本周，以认真而详尽的报告的形式试图确定AI风险和缓解策略，这些风险和缓解策略将AGI作为其核心前提。这是有关负责任的技术发展和部署的详尽而有趣的文件。它还邀请了一个有用的练习：在许多特定情况下Agi出现，自动化当然，可以用来伤害人们的通用软件，或者很少有意义的丧失，技术或只是进步，尽管有报道在对齐，滥用，偏见和危害的新颖术语中对AGI进行了详细探讨。在Agi话语中，我们走得足够远，即使对于一些最有效颁布的人来说，它也失去了效用。

离开Openai联合创始人Andrej Karpathy，对Agi的感觉并不陌生。实际的到目前为止，基于LLM的软件的扩散，描述（并允许）流行的AI工具对普通人员产生不成比例的好处，而其影响在公司和政府中更加悬而未决。对于其他人的口袋里的设备，免费的。对于其他人来说，该品牌只是变得精疲力尽并溶解到不一致的情况下。在最近对Stratechery的采访，阿尔特曼描述Agi作为一个我认为几乎完全贬值的术语，概述了广泛的定义。当被问及他认为基于LLM的工具将如何发展时，他建议Openai正在走上可以真正创建新事物的软件的道路，但实际上，Openai已经过分兑现了诺言，人​​们刚刚更新了”。已经认为几年前的能力将启发出敬畏，甚至是世界崩溃的启发。阿尔特曼说，他的本能是，Ai只是在经济中渗入，而大多数情况下，大多数情况下的东西很快就会越来越快，然后更快，然后是毕竟。

这些是某人运行的话快速增长的消费技术公司的目标，需求和竞争对手有明显的目标，而不是担心他想创造上帝的人。同一周，阿尔特曼（Altman）接受了这次采访，Openai与其他科技公司一起提交了白宫科学技术办公室AI行动计划的建议。这是怎么回事框架游戏状态：

随着美国领先的AI部门与中国共产党（CCP）达成人工智能（AGI），决心在2030年之前超越我们，特朗普政府的新AI AI行动计划可以确保美国领导的AI建立在民主的原则上的AI继续持续超过CCP建立的专制专制的权威，权威性AI。

它又回来了！快速接触的阈值，迫在眉睫的必然性，狂喜，风暴。在与一位好奇，批判的面试官的交谈中，Altman将Agi视为模糊的故事。当该提出索赔，备份估值并要求当局提出一些东西时，在这种情况下，从培训数据的版权制度中的自由 - 这是紧急情况。That, for OpenAI, is the value of “AGI.”

AGI品牌广告系列在当前和技术行业中还有其他用途，具有非常高的赌注。DOGE is, above all, the manifestation of a right-wing dream to cripple the state and to commandeer what’s left.To the extent that it looks forward, however, it’salso a Musk-inflected AGIstory put into行动with real and current consequences.谁在乎我们是否打破官僚机构？Soon enough— inevitably, in fact — AI will be able to handle the messy work of governance and administration better than we can.为什么要以大量关税将美国工业与世界其他地区隔离开来？因为Agi机器人会神奇地抓住懈怠。需要证明对Medicare或Medicaid的严重削减是合理的吗？只是say “AI”and get out that bone saw.It’s a matter of time until all bets are off and the concerns of regular people will be well and truly irrelevant, their relative intelligence and intrinsic value reduced to a quantity approaching zero.Why shouldn’t the people in charge act like it’s already true?为什么我们中的任何人都应该为此做任何事情呢？