AI对齐问题的解决方案是在镜子里

想象一下，全球外星舰队比我们更聪明。他们将如何看待人类？他们会决定我们什么？

这不是科幻小说。上级情报并不是从遥远的恒星到达的，它从我们自己的技术中浮出水面。

全球AI军备竞赛加速了人造通用情报（AGI）及以后。Openai的Sam Altman说，超级智能可以到达”数千天，“警告这可能是我们的“最大灭绝风险”。

两个真理面对我们：很快，人类将不再是地球上最聪明的物种。现实并不关心我们是否相信。

这一矛盾揭示了我们的核心挑战：我们正在建立一个宇宙的扩音器，可以放大我们喂养的东西。养活它的仇恨和分裂，我们遭受痛苦和混乱。养活它的爱与团结，我们变得蓬勃发展与和平。艾萨克·阿西莫夫（Isaac Asimov）感叹，“现在生活中最可悲的方面是，科学收集知识比社会更快地聚集智慧。“

我们在数字世界中的部落大脑

哈佛生物学家E.O.威尔逊钉了它：“人类的真正问题是：我们有旧石器时代的情感，中世纪的机构和像神般的技术。“我们的大脑涉足150人的部落，现在在一个超连接的世界中浏览。这种进化不匹配的认知偏见将在线辩论变成数字内战。

进度悖论是这样：我们进化而来的进步创造了一个我们没有发展为居住的外星世界。心理学研究表明，以谦卑接近世界有助于我们更客观地处理威胁信息。然而，现实通过部落镜头扭曲，导致我们恨我们的邻居而不是爱他们。

这注意力经济利用了部落仇恨。它利用了我们的旧石器时代的情绪愤怒，，，，害怕，US-VS.-TOMY，以使我们的参与和愤​​怒。它以我们的费用从我们的部门中获利。也许我们需要在关注经济结束我们之前结束我们。

我们害怕反思的镜子

环顾四周。做你看到的启发信心我们足够明智地发挥AI的不断发展的力量吗？最近的研究发现AI已经超过94％的博士病毒学家。哪些苦难可能是恶劣的行为者和恐怖团体以这种权力造成的？

AI既是镜子又是镜头，反映和放大了我们分裂的心灵。正如埃克哈特·托勒（Eckhart Tolle）警告的那样，“由科学技术放大的集体自我思想的精神错乱正在迅速使人类陷入灾难的边缘。进化或死亡。““ AI对齐问题”问：我们如何确保AI坚持人类的价值观？但是问题确实是“哪个价值？”

东西方？左还是右？基督徒，犹太人，穆斯林还是无神论者？现实是：我们不能在彼此对齐之前对齐AI。

物种对齐悖论

这是悖论：AI将我们视为一种物种，但是我们的部落战斗发挥了刺耳的作用，而不是交响曲。我们向有关我们是谁和我们珍视的信号发送了矛盾的信号。我们要求AI尊重人类的生命，然后编程无人机杀死。我们坚持真理，然后传播错误的信息并创造深层效果。我们不能告诉AI我们是谁，因为我们自己没有同意。

使事情复杂化的是，不同的开源型号可以绕过对齐护栏。我们破裂的人类需要与多个AI保持一致，而不仅仅是一个AI。这需要记住我们已经知道的真相 - 我们是一个物种，智人，和一个部落人类。

宇宙下注

如果我们在银河的拉斯维加斯押注人类的未来，您会在团结或分裂上下注吗？我们都知道团结是我们最好的选择。当人类一起工作时，就不会阻止我们。但是我们可以是我们自己最大的敌人。

1983年的电影战争游戏教会了我们有关全球热核战争的知识：“唯一的获胜举动不是玩。“使用AI，每条武器的道路都会增加苦难和自我毁灭的风险。

部落上的真理

“你将知道真理，真理将使您自由”（约翰福音8:32）。将“真实”交换为“现实”和一个精神真理变得科学。我们必须记住，真理使我们释放了我们的部落忠诚，而不是我们希望真理的忠诚。从心理上讲，这可能带来了人类有史以来最大的挑战。要克服部落主义，我们必须超越使我们来到这里的进化遗产。

如果我们没有使用AI来寻找更多“智能”互相攻击的方法，而是使用它来帮助我们寻求和理解真相/现实呢？如果真理确实可以使我们自由，那就意味着我们发现的真相越深，我们变得更加自由。这样，真相使我们团结起来，而众议院联合不会倒下。

但是团结不是统一。这就像爵士乐合奏与表达自由的共同节奏。正如小马丁·路德·金（Martin Luther King Jr.）所说，我们都是“...陷入了一个不可避免的互助网络，并绑在一件命运的衣服上。直接影响一个人，间接影响一切。”

如果我们提出AI熟练的问题，它可以扩大我们最大的品质并帮助我们超越部落主义。所有的人类都一起涌入我们的AI未来。问题是：确保人类生存和繁荣的最熟练的道路是什么？

前进道路：关系为一致

如果AI对齐的关键不是技术协议，而是一种生活关系怎么办？我们可以将其视为强制执行的僵化的代码，而是将其作为一种不断发展的对话，随着人类和人工智能的理解而发展。

这种关系视图将我们的重点从控制转移到合作。当教育者使用AI帮助学生探索对复杂问题（例如移民或中东冲突）的相反观点发生。在表面层面的差异之下，出现了人类的关注：安全，归属，公平。在那个交流中，真理被共同发现没有规定。

最有希望的未来将人类的智慧与AI的分析范围融合在一起，以面对我们最大的挑战。那么，一致性并不是我们对AI强加的东西，这是我们通过诚实，持续的关系共同建立的。

这与人类无关或者人工智能。关于人类和艾伊在真理的镜子中会议。毕竟，当真相使我们自由时，为什么要训练机器回声呢？

我们的选择是什么？

正如物理学家理查德·费曼（Richard Feynman）警告的那样“第一个原则是你绝不能愚弄自己，而你是最容易愚弄的人。”一致性始于我们自己和彼此之间的激进诚实。

时间很短。AI不会决定我们是谁，这将反映我们成为谁。它会扩大我们的分裂或同情吗？我们的恐惧，还是我们的爱？

真正的问题是不是与我们保持一致吗？

我们知道恐惧推动了仇恨。正如甘地所说的那样，“敌人是恐惧。人们认为这是仇恨，但这是恐惧。”如果那是真的，为什么不使用AI来帮助我们超越恐惧本身？

想象一下可以帮助我们看到部落线索的系统。这有助于我们记住我们共同的人性。这有助于我们爱自己的邻居，不仅在原则上，而且在实践中。

当每个人都爱他们的敌人时，就会发生奇迹般的事情：我们没有敌人。

我们仍然可以选择统一划分，蔑视的同情心以及对幻想的真理。我们已经知道使我们自由的事实。现在AI可以帮助我们居住但是，只有我们足够勇敢地提出正确的问题。

如果我们选择共同努力，我们可以建立一个未来的未来，即使是约翰·列侬也无法想象。

如果这种反思激起了您的好奇心，关注甚至抵抗的东西。这完整的关键概念文章在这镜上扩展了我们与AI建立的，并探讨了对齐方式可能不是从控制而不是真理开始的。加入更深入的对话一个团结项目。

与AI一起探索：“如果AI反映了我们的内心世界，我们教会它相信什么未来？”

参考