我们AI未来的一个令人震惊的预测是广泛的关注。它有多现实？

公司正在倾注数十亿美元和大量的人才，以使这些模式在他们的工作上更好。那会带我们去哪里？

想象一下，今年晚些时候，一些公司决定对AI的最有价值的用途之一加倍：改善人工智能研究。该公司设计了一个更大，更好的模型，该模型是针对培训其他AI模型的超级贵但可实现的任务的精心量身定制的。

有了这项AI培训师的帮助，该公司在竞争对手的竞争者领先，在2026年发布了AIS，在各种任务上可以很好地工作，并且本质上可以作为员工工作。您可以雇用。

这是开放的AI 2027，一群研究人员的经过深思熟虑的近期预测，他们认为世界对我们的世界的巨大变化正在迅速发展，我们对此进行了严重的准备。作者特别包括丹尼尔·科科塔（Daniel Kokotajlo），一位前开放研究员，以冒着数百万美元在公司中的股权的风险当他拒绝签署不保密协议时。

艾滋即将快到是人们已经说了很久但通常以一种难以争议的方式，很难伪造。AI 2027是朝着完全相反的方向发展的努力。像所有人一样最好的预测，它的构建是可伪造的 - 每个预测都是具体且详细的，以至于很容易确​​定事实之后是否实现。（当然，假设我们还在附近。）

作者描述了AI的进步如何被认为如何影响股票市场，他们如何使地缘政治沮丧，并证明这些预测是合理的数百个 的 页面 的 附录。AI 2027最终可能完全是错误的，但是如果是的话，很容易看到它出现在哪里。

这也可能是对的。

虽然我对小组的确切时间表表示怀疑，该时间表设想了大多数关键时刻导致我们发生AI灾难或政策干预，就像在此总统管理期间发生的那样，他们举办的一系列事件对我来说是相当令人信服的。

任何AI公司都会对改善其AI开发的AI加倍。（其中一些可能已经在内部进行。）如果发生这种情况，我们将看到比2023年至今的改进更快的速度，并且在几年之内，由于AI雇员成为可行的大多数工作，因此将会造成巨大的经济破坏。

但是在这种情况下，该公司在内部使用了大多数新的AI员工，以不断在AI中发挥新的突破。结果，技术进步速度越来越快，但是我们应用任何监督的能力越来越弱。我们看到先进的AI系统的奇异和令人不安的行为的瞥见，并尝试调整修复它们。但是，这些最终是表面层面的调整，只是掩盖了这些日益强大的AI系统开始追求自己的目标的程度，我们可以实现这一目标。这也已经开始在某种程度上发生。很常见的是，关于AIS做令人讨厌的事情，例如伪造通过代码测试，他们不会通过。

对于我来说，这种预测不仅似乎是合理的，而且似乎也是将要发生的事情的默认课程。当然，您可以辩论它可能展开的速度的细节，甚至可以对AI进度一定会在明年终结的立场承诺。但是，如果AI的进步没有消失，那么似乎很难想象它最终会导致我们迟早AI 2027所设想的广阔道路。预测使一个令人信服的案例将比几乎任何人期望的要早。

毫无疑问：AI 2027的作者设想的道路以合理的灾难结束。

到2027年，大量的计算能力将专门用于进行AI研究的AI系统，这一切都随着人类的监督而减少 - 不是因为AI公司没有想监督它，但是因为他们不再能够，如此先进和如此迅速的创作变得如此。即使AIS做出的决定对人类越来越坚不可摧，美国政府将加倍赢得与中国的武器竞赛。

作者期望迹象表明，新的，强大的AI系统正在追求自己的危险目标 - 他们担心这些迹象会被当权者忽略，因为对竞争的地缘政治担忧赶上了竞争，因为AI存在的种族没有给予安全加热的AI存在种族。

当然，所有这些听起来都很合理。问题是：当权者可以比作者预测的要好吗？

确实。我认为这甚至不会那么难。但是他们会做得更好吗？毕竟，我们肯定会在更轻松的任务下失败。

JD Vance副总裁据报道阅读AI 2027，他表示希望拥有的新教皇已经命名了AI作为人类的主要挑战 - 将行使国际领导，以避免其假设的最坏结果。我们会看到。

我们生活在有趣（令人震惊的）时代。我认为，非常值得给AI 2027的阅读，以使模糊的忧虑笼罩着AI话语的特定且可伪造的，以了解AI世界中的某些高级人员和政府在关注什么，并决定如果您认为这是真的。