另一种观点：为美国的未来和人类的未来保护AI

一场技术革命正在展开 - 将以几乎无法理解的方式改变我们的世界。随着人工智能迅速发展，美国对AI的企业投资不断爆炸，我们站在一个十字路口，这不仅决定了美国的未来，还决定了人类的未来。

许多领先的专家认为，人工通用情报（AGI）在视线内。越来越多的共识是，它可能会在未来两到五年内在这里。这是一个基本转变，将导致我们超越我们的想象力的科学和技术进步。有些人将高级AI的发展称为第二次工业革命，但事实是，它将比也许不可理解的更重要的是，我们没有做好准备。

AGI的潜在好处是非凡的。它可以发现我们几代人战斗的疾病治疗方法，找到解决最困难的数学和物理问题的解决方案，并创造数万亿美元的新财富。

但是，真正令人担忧的是，我们正在朝着前所未有的技术突破竞争，而没有考虑它带来的许多危险。这包括对我们的劳动力，美国国家安全甚至人类的危险。正如拟人化的首席执行官达里奥·阿莫迪（Dario Amodei）最近建议的那样，人工智能可能会导致一个寻求工作的求职者的血腥，这只是一个威胁。

可以消除癌症的相同技术也可能创造出前所未有的杀伤力的生物武器。旨在优化能量分配的系统可以被武器化以破坏关键基础设施。随着国家冲刺发展高级AI的随着我们没有进行的一次对话，即可能解决我们最大的挑战的工具可能会造成灾难性甚至存在的风险。

斯蒂芬·霍金（Stephen Hawking）警告说，早在2014年，全人工智能的发展就可能拼写在人类的终结中。

AI的进步正在以扭曲速度发展，没有任何刹车。我们没有准备好应对这些风险。

因此，我们正在为安全AI启动联盟，并确保Advath Ai Innovation继续以安全性和安全性作为首要任务。我们对扼杀关键技术进步没有兴趣。美国可以继续领导世界发展，同时还建立了必要的保障措施，以保护人类免受灾难的侵害。

保障措施始于跨政治界限的有效沟通。我们将在技术，政策和国家安全部门与联盟合作伙伴举办战略会议，以确保对对话进行有关AGI危险的情况。

在国会大厅之外，这将需要公共教育。大多数美国人不知道AI可能构成的前所未有的威胁。我们的教育努力将使必须理解自己的生计处于危险中的日常美国人可以访问复杂的AI概念。

通过召集AI专家，政策制定者，记者和其他主要利益相关者，我们可以将必须​​共同努力的领导者联系起来，以使这一适合美国和人类。我们别无选择，只能建立一个致力于负责AI的社区。

我对改善我们生活的潜力非常乐观。然而，除了其潜在利益之外，AGI将引入严重和危险的问题，我们将需要共同解决这些问题。

先进的AI革命将比历史上的任何事物都要多。日常美国人的日常活动将永远改变。AGI将影响经济，国家安全以及对意识本身的理解。Google已经在招聘一个后Agi世界，在该世界中，AI比所有认知任务中最聪明的人都聪明。

至关重要的是，美国在确保AI系统与人类价值和美国原则保持一致的同时保持其技术领导力。如果没有保障措施，我们冒着有史以来最强大的技术可能威胁人类自由和繁荣的未来。

这是关于提出基本问题：AI在社会中应发挥什么作用？我们需要考虑哪些权衡？我们应该在自主系统上放置什么限制？

找到这些问题的答案需要广泛的公众参与 - 不仅来自大型技术，而且来自每个美国人。

Brendan Steinhauser是Secure AI联盟的首席执行官，该联盟是一个致力于向公众教育高级人工智能的影响的非营利组织。©2025纽约每日新闻。由Tribune Content Agency，LLC分发。