自组装以“人生游戏”逆向自动化|Quanta杂志

Mordvintsev，Levin和其他两位Google研究人员Ettore Randazzo和Eyvind Niklasson进行的核心创新是使用神经网络来定义细胞自动机的物理学。在生命的游戏（或通常所谓的生活）中，网格中的每个单元都活着或死了，在模拟时钟的每个tick中，要么产生，死亡或保持原样。每个细胞的行为方式作为条件列表的规则：例如，如果一个单元格具有三个以上的邻居，则它会死亡。在Mordvintsev的系统中，神经网络接管了该功能。基于单元格及其邻居的当前状况，该网络告诉您该单元格会发生什么。相同类型的网络被用来将图像分类为狗或猫，但在这里它对细胞状态进行了分类。此外，您不需要自己指定规则；神经网络可以在培训过程中学习它们。

要开始训练，您可以用一个活细胞向自动机播种。然后，您使用网络一遍又一遍地更新单元格，数十万次。您将结果模式与所需的模式进行比较。您第一次这样做时，结果看起来与您预期的不像。因此，您可以调整神经网络的参数，重新运行网络以查看它现在是否做得更好，进行进一步调整并重复。如果存在可以生成模式的规则，则此过程最终应该找到它们。

可以使用反向传播，为大多数现代深度学习的动力或一种遗传算法的技术进行调整，这是一种模仿达尔文进化的较旧技术。反向传播的速度要快得多，但在每种情况下都不起作用，并且要求MordvintSev适应蜂窝自动机的传统设计。生活中的细胞状态是二进制死亡或活着的，从一个状态到另一个状态的过渡是突然的跳跃，而反向传播则要求所有过渡平稳。因此，他采用了一种在2010年代中期在Google的东京实验室的Bert Chan开发的方法。Mordvintsev使单元格状态连续值，从0到1，因此它们绝不会严格死亡或活着，但总是在介于两者之间的某个地方。

Mordvintsev还发现，他必须赋予每个细胞的隐藏变量，这并不表示该细胞是活着的还是死亡的，或者是什么类型的细胞，但仍指导其发育。如果您不这样做，那就不起作用。”他说。此外，他指出，如果所有细胞都同时更新，那么在生活中，所产生的模式缺乏他寻求的有机质量。他说，这看起来非常不自然。因此，他开始随机更新。

最后，他使他的神经网络相当强烈地参数。从表面上看，这似乎令人困惑。根据雅各布·斯普林格（Jacob Springer）在2020年进行的模拟，现已是卡内基·梅隆大学（Carnegie Mellon University）的博士生和洛斯阿拉莫斯国家实验室（Los Alamos National Laboratory）的加勒特·肯尼恩（Garrett Kenyon），将生活直接翻译成神经网络只需要25个参数。但是，深度学习从业者通常必须超过网络，因为学习执行任务要比实际执行它更难。

此外，额外的参数意味着额外的功能。尽管生活可以产生极富富裕的行为，但Mordvintsev的怪物完全达到了另一个层次。

固定器鞋面

2020年将NCAS引入世界的论文包括小程序这产生了绿蜥蜴的形象。如果您通过蜥蜴的身体扫过鼠标，就会留下一群擦除的像素，但动物图案很快就重建了。NCA的力量不仅是为了创建模式，而且要重新创建它们，如果它们受到损害，则引入了生物学家。NCA的再生具有惊人的潜力，'在巴塞罗那进化生物学研究所的里卡德·索尔（RicardSolâ）说，他没有直接参与这项工作。

蝴蝶和蜥蜴的图像不是逼真的动物模拟。他们没有心，神经或肌肉。它们只是动物形状的细胞的色彩模式。但是莱文（Levin）等人说，它们确实捕获了形态发生的关键方面，生物细胞形成自己的组织和身体。细胞自动机中的每个细胞仅对其邻居响应。它不会在主蓝图的指导下进入。广泛地，活细胞也是如此。而且，如果细胞可以自组织，则可以理解它们可以自组织。

有时，Mordvintsev发现，再生是免费的。如果规则将单像素塑造成蜥蜴，它们还会扎成一个蜥蜴，并再次将其大爆炸塞入完整的动物中。其他时候，他明确培训了自己的网络进行再生。他故意损坏了模式，并调整了规则，直到系统能够恢复为止。冗余是实现鲁棒性的一种方法。例如，如果受过训练以防止对动物的眼睛损害，则系统可能会生长备份副本。他说，这不能使眼睛足够稳定，因此他们开始繁殖 - 您有三只眼睛。”

塞巴斯蒂安·里西（Sebastian Risi），哥本哈根IT大学的计算机科学家，试图了解究竟是什么赋予了NCAS的再生能力。他说，一个因素是Mordvintsev通过随机更新间隔等功能中内置的不可预测性。这种不可预测的迫使系统开发机制来应对任何生命所赋予的一切，因此它将逐步丧失身体的损失。类似的原理也适合天然物种。Risi说，生物系统非常强大，因为它们所使用的底物是如此嘈杂。” Risi说。

去年，塔夫茨（Tufts）和维也纳技术大学（Vienna Technology）的物理学家Risi，Levin和Ben Hartl使用NCAS研究了噪声如何导致稳健性。他们在通常的NCA体系结构中添加了一个功能：内存。该系统可以通过调整网络参数或将其像素像素存储在内存中来重现所需模式。研究人员在各种条件下对其进行了培训，以查看采用哪种方法。

如果系统必须做的是复制模式，则选择记忆。与神经网络大惊小怪，那将是过度的。但是，当研究人员在训练过程中增加噪音时，网络就会发挥作用，因为它可以开发出抵抗噪声的方法。当研究人员切换目标模式时，网络能够更快地学习它，因为它已经开发了可转移的技能，例如绘图线，而记忆方法必须从头开始。简而言之，对噪声有弹性的系统通常更灵活。

研究人员认为，他们的设置是自然进化的模型。基因组不会直接规定生物体的形状。相反，它指定了生成形状的机制。这使物种能够更快地适应新情况，因为它们可以重新利用现有能力。哈特尔说，这可以极大地加快进化过程。”

Lila Sciences的人工智能研究员肯·斯坦利（Ken Stanley）研究了计算和自然进化，他警告说，尽管它们具有强大的NCA，但仍然是生物学的不完善模型。与机器学习不同，自然进化不能实现特定目标。他指出，这并不是说有一种理想形式的鱼或某种东西以某种方式显示出进化的进化，然后弄清楚了如何编码鱼。”因此，来自NCAS的教训可能不会延续到自然界。

自动代码

在再生失去的身体部位时，NCAS展示了一种解决问题的能力，Mordvintsev认为它们可能是一般计算的新模型。自动机可能形成视觉模式，但它们的细胞态最终只是根据算法处理的数值值。在正确的条件下，蜂窝自动机与任何其他类型的计算机一样完全笼统。

由约翰·冯·诺伊曼（John von Neumann）在1940年代开发的计算机的标准模型是一个中央处理单元，并结合了内存。它接一个地执行一系列指令。神经网络是第二个体系结构，可分布数千到数十亿个并行运行的互连单元的计算和内存存储。蜂窝自动机是这样的，但分布更加根本。每个单元仅与邻居相连，缺少冯·诺伊曼（Von Neumann）和神经网络体系结构中发现的远程连接。（Mordvintsev的神经细胞自动机将一个小的神经网络纳入每个细胞，但细胞仍然只与邻居进行通信。）

远程连接是主要的电源流量，因此，如果蜂窝自动机可以完成这些其他系统的工作，则可以节省能源。Google技术与社会部的首席技术官BlaiseAgéArcas说，一种看起来像NCA的计算机看起来会更有效。

但是，如何为这样的系统编写代码？您真正需要做的是提出[相关]抽象，这是编程语言对von Neumann样式计算的作用，”圣达菲研究所的Melanie Mitchell说。但是，我们真的不知道如何为这些大规模分布的平行计算做到这一点。

神经网络本身没有编程。网络通过培训过程获得其功能。在1990年代，米切尔（Mitchell），加利福尼亚大学，戴维斯分校的吉姆·克鲁奇菲尔德（Jim Crutchfield）和圣塔菲研究所（Santa Fe Institute）的彼得·赫拉伯（Peter Hraber）展示了蜂窝自动机如何可以做到这一点。使用遗传算法，他们训练了自动机以执行特定的计算操作，大多数操作：如果大多数细胞死亡，其余的也应该死亡，如果大多数人还活着，则所有死细胞都应该重生。细胞必须在没有任何办法看到大局的情况下执行此操作。每个人都可以说出有多少邻居还活着，有多少人死了，但它不可能看到。在培训期间，该系统自发开发了新的计算范式。死者或活细胞的区域扩大或收缩，因此以占主导地位的任何人最终接管了整个自动机。米切尔说，如果您想称其为算法，他们提出了一种非常有趣的算法。”

她和她的合着者没有进一步发展这些想法，但是Mordvintsev的系统振兴了蜂窝自动机的编程。2020年，他和他的同事创建了一个NCA，该NCA阅读了手写数字，这是一个经典的机器学习测试案例。如果您在自动机中绘制数字，则单元格会逐渐改变颜色，直到它们具有相同的颜色，并识别数字。今年，伦敦帝国学院的加布里埃尔·贝纳（GabrielBéna）和他的作者在软件工程师彼得·沃登（Peter Whidden）未发表的作品的基础上创造了用于矩阵乘法和其他数学操作的算法。B B na说，您可以从眼睛看来，学会了进行实际的矩阵乘法。

挪威斯特福尔德大学学院的教授Stefano Nichele专门从事非常规计算机体系结构，他的合着者最近改编了NCAS，从抽象和推理语料库中解决了问题，这是一种机器学习基准，旨在衡量一般一般智力的进度。这些问题看起来像是经典的智商测试。许多由线图组成；您必须弄清楚如何将第一个图形转换为第二个图，然后将该规则应用于新示例。例如，第一个可能是短对角线，第二条线是更长的对角线，因此规则是扩展线路。

神经网络通常会非常可怕，因为它们倾向于记住像素的布置而不是提取规则。蜂窝自动机可以记住，因为缺乏远程连接，它可以一次拍摄整个图像。在上面的示例中，可以看到一行比另一行更长。它可以联系起来的唯一方法是经历成长第一行以匹配第二行的过程。因此，它会自动辨别规则，并使其能够处理新示例。尼克尔说，您强迫它不记住这个答案，而是要学习开发解决方案的过程。”

其他研究人员开始使用NCA进行编程机器人群。机器人集体是由科幻小说作家（例如1960年代的StanisåAvLem）设想的，并于90年代开始成为现实。佛蒙特大学的机器人研究员乔什·邦加德（Josh Bongard）说，NCAS可以设计出如此紧密合作的机器人，以至于他们不再只是群体并成为统一的有机体。他说，您可以想象，就像昆虫，虫子或细胞的扭动球。他们互相爬行并一直进行重塑。这就是多细胞的真正样子。我的意思是，这仍然是早期的，但这似乎是一个很好的方法。

为此，维也纳大学的物理学家Hartl，Levin和AndreasZãttl已经训练了虚拟机器人 - 在模拟的池塘中骑着一串珠子，像the脚一样蠕动。哈特尔说，这是一个让他们游泳的超级稳固建筑。”

对于Mordvintsev而言，生物学，计算机和机器人之间的交叉延续了1940年代的计算早期的传统，当时冯·诺伊曼（Von Neumann）和其他先驱者从生物中自由借来了思想。对于这些人来说，自我组织，生活和计算之间的关系是显而易见的，”他说。这些事情以某种方式分歧了，现在它们被统一了。