我们会知道下一个瘟疫是人制造的吗？

1979年10月，一份绝密的中央情报局情报报告是西方的第一批印象，据称几个月前在苏联发生了一些不寻常和令人不安的事情。

当年4月，患者开始出现在工业城市斯维德洛夫斯克（Sverdlovsk）的医院，现在被称为Yekaterinburg，位于苏联乌拉尔地区。他们表现出医生首先认为是一种异常有毒和致命形式的肺炎的症状。不是。

实际上，最终杀死了60多人的爆发是由炭疽孢子造成的，这些孢子是从苏联生物武器设施中意外释放的。这是怎么发生的，仍然未知。

正式地，设施和苏联生物武器计划都不应该存在。几年前，莫斯科与华盛顿一起批准了地标国际条约禁止生物处理工作。当美国官员在Sverdlovsk公开提出有关此事件的疑问时，苏联政府否认正在进行任何生物武器研究，并将爆发归咎于受污染的肉类。俄罗斯总统鲍里斯·叶利钦（Boris Yeltsin）一直承认，直到1992年，直到1992年，俄罗斯总统鲍里斯·叶利钦（Boris Yeltsin）才承认，这一事件是秘密的生物武器计划的结果。

即使在苏联，杀死数十人的生物武器事故造成数十年的秘密？正如《华盛顿邮报》记者大卫·霍夫曼（David E. Hoffman）死手，他在冷战军备竞赛中的历史，答案在于武器本身的性质：生物武器是间谍，士兵和科学家的最终挑战。

与导弹筒仓不同，很容易与空气区分开，开发生物武器的实验室看起来与良性医疗实验室不同。与核弹头不同，核弹头在其孤岛中留下了清晰的放射线痕迹，并且在其使用方面是无误的，武器的病原体和爆发可能很难与自然发生的病原体辨别，从而使任何攻击者都具有合理的可否认性。

这些武器周围的谜团与冷战期间一样是一个问题。抛开仍然在政治上令人震惊的问题，即Covid-19是否从中国实验室逃脱了，或者像大多数爆发一样，从动物身上跳到人类，更大的问题是我们可能永远不知道。

大流行告诉我们的是，没有人可以归因。”德鲁·恩迪，斯坦福大学生物工程教授。情报机构已经确定Covid不是故意设计的生物武器，但是对其起源的困惑确实表明，如果要释放出更具毒力，有意设计的病原体，那么对于某些人来说，可能是谁是攻击背后的人，甚至根本不是攻击。

这种合理的可否认性可以使使用这种武器对攻击者更具吸引力。如果BioWarfare仅在未来几年才成为更大的威胁正如许多专家预测的那样，人工智能使开发新的生物化合物的速度更容易，更便宜，更快，包括武器化的病原体比46年前在Sverdlovsk中杀死数十人的炭疽更复杂和致命。这就是为什么在合成生物学领域的先驱恩迪（Endy）建造了新的生物系统或通过遗传操纵对现有生物的故意改变 - 认为这种新的威胁景观迫切需要新的检测形式。

``当铁幕倒下时，我们发现拥有地理空间情报以查看另一侧发生的核武器的情况很有用。”他告诉Vox。今天，有一个分子窗帘。我们看不见的东西是我们周围的，可能是有害的。我们真的没有这样的智慧。

可以使对手能够创造出更多危险的生物武器的技术比防守措施更快地发展。但是，当AI可能会放大这种武器的风险时，它也可能正在成为检测和阻止它们的关键。

生物战至少可以追溯到公元前14世纪，直到有人知道细菌引起疾病，当派出患病的公羊给他们的敌人感染​​危险的细菌感染图菌。第二次世界大战中的每一个主要战斗人员都有一项生物武器研究计划，包括美国和日本在中国故意释放细菌。

人们担心使用生物武器的使用最终导致1975年对生物武器公约（BWC）的批准，禁止全球生物武器的使用和开发，尽管尽管苏联计划在多年后继续秘密，尽管莫斯科签署了该条约。但是，由于生物武器难以开发，部署和如果使用它们的控制，那么生物贸易比该条约更重要。但这可能正在改变。

新的基因编辑工具CRISPR减少了用DNA修补的成本和困难。但是，同样的工具也可以使恶性演员更容易创建用于战争或恐怖主义的设计师疾病。

但是，说马特·麦克奈特（Matt McKnight），合成生物学公司Ginkgo Bioworks的生物安全负责人，过去的快速科学发展时期，从1900年代初的化学物质（毒气）到1930年代的物理学（核武器），到20世纪后期的计算机科学（网络进攻），表明了AI和Gene的新融合，几乎是一定的，即使是暴力的一定效果。

麦克奈特说：`我的假设是，在本世纪，一个坏演员将使用生物武器，因为鉴于整个历史上的所有人类行动，这将是基准期望。”麦克奈特说。我想减少发生的可能性。一个

新美国安全中心的最新报告（CNA）提出了几种令人担忧的方案，即如何使用AI来优化战争的病原体。可以设计全新的病毒，也可以对现有病毒进行修改，以使其对现有疗法更具耐药性。

凯文·埃斯维尔特（Kevin Esvelt）麻省理工学院的合成生物学研究人员兼雕刻演化小组的主任说，他最大的关注点之一是，大型语言模型不仅可以促进现有天然病原体的复制，而且要建立在自然界中发生的全部新事物。

有多糟糕？Microsoft AI首席执行官Mustafa Suleyman，警告了AI和合成生物学的结合可以使病原体具有埃博拉病毒的死亡率，但季节性流感的可传播性，在一个月内导致超过十亿人死亡。

对于世界末日邪教以外的任何人来说，这都不是非常实用的武器。但是，通过将AI增强的工程化也可以使病毒通过适应特定位置的工作来使病毒更具控制性。更令人不安的是，病毒可以量身定制以攻击特定人群。CNAS的报告引用了中国国防大学前校长Zhang Shibo，也是中国军方的一名将军，他们推测新技术将允许发展特定的特定种族遗传攻击的疾病。

除了这些噩梦之外，AI可能只是使生产现有危险病毒变得更容易。在2023实验，麻省理工学院的一群学生使用市售的AI聊天机器人来提出建议，以组装几种致命病毒，其中包括天花，这些病毒目前仅在美国和俄罗斯的超安全实验室中存在于其遗传材料中。聊天机器人还建议了所需的用品，并列出了几家公司和实验室，这些公司和实验室可能不会在不进行筛查的情况下打印遗传材料。

对此类场景的担忧促使一些AI公司提出合并新的保障措施进入他们的模型，尽管激烈的商业和地缘政治竞争旨在达到人工通用情报可能会随着时间的推移侵蚀这些保障措施。

这些进步意味着，今天任何人都可以发展自己的天花。即使您有使用说明手册和非常耐心的AI来引导您浏览它，实际上建立疾病的技术障碍仍然是可怕的。但这表明进入障碍正在下降。

过去，诸如ISIS或日本邪教的Aum Shinrikyo之类的非国家演员，负责1995年在东京地铁上的Sarin Gas攻击，试图获得生物武器，但不可避免地违背了人才和供应限制。但是，AI和合成生物学的进步意味着具有有限手段的参与者现在将拥有更多的工具。

作为一种战争的方法，合成生物学似乎只是偏爱犯罪，” Esvelt说，他领导了MIT实验在病毒设计中使用聊天机器人。``您可以攻击的许多方法，建立病毒比开发和分发疫苗要便宜得多。

这就是为什么国防部需要开始进攻的原因。当涉及到这项技术被滥用的风险时，Ginkgo的McKnight认为，您可以规范这项技术。您必须更好地做到这一点。您必须像对手做对策一样好。他的公司正在努力建造一个。

关于Biowarfare Defence的未来可能会在一个繁忙，庞大的实验室俯瞰波士顿港口的藏匿的角落中发现的一个愿景。这就是Ginkgo Bioworks所基于的，以及由前麻省理工学院科学家于2008年创立的公司设计的自定义微生物用于工业用途。

通过这项工作，Ginkgo开发了高级测试能力，以确定他们是否按预期建立工作的微观生物。在Covid期间，Ginkgo S的铸造厂指的是其主要实验室，被迫进行服务处理鼻拭子和监视废水，以帮助政府监测冠状病毒的社区级别传播以及新变体的出现。

这项工作已演变为在美国八个国际机场以及中东和非洲的机场进行的持续监测行动，以证明越过国际边界的潜在危险病原体。从飞机上收集到到达的乘客志愿者以及废水样本的鼻拭子，并送往银杏进行分析。这意味着下次您使用飞机厕所时，您可能会为世界各地移动的巨大遗传材料做出贡献

在最近访问Ginkgo的铸造厂时，我向我展示了一个热循环器的架子 - 每个类似于乔治·费尔曼烧烤架的超大型烧烤架。（这是大流行期间PCR测试中的PCR。）该过程涉及加热和冷却DNA样品，以便复制它们进行分析，从而使科学家能够识别出难以检测的遗传异常。这个过程可以跟踪某些病原体或流感，例如在世界各地迁移，以及它们如何发展，这可以帮助指导任何公共卫生的反应。

考虑到有记录的崛起在自然出现的新病原体中。但是银杏不再仅仅看着自然产生的生物威胁。在情报高级研究项目活动（IARPA）的支持下，美国情报界的研究部门开发了一种称为Endar或工程核苷酸检测和排名的工具，该工具是专门设计用于检测人工工程遗传物质的。

这是AI的来源。通过其细胞工程业务，银杏积累了大量的工程基因组库。我们每天，每天都在设计微生物。我们实际上使用[工具]来验证我们的工程作用。就像AI工具（例如Chatgpt火车）上使用大量的书面材料或图像，能够以惊人的准确性回答用户提示一样，Endar也接受了庞大的工程基因组库的培训。这使得能够检测到何时看起来很正确。

Philipson说，您可以真正获得具体的特定，并开始查看所谓的碱基对，特别是每个ATCG，指的是将键合在一起形成DNA的基本核苷酸。这些结构倾向于以可预测的模式发展，系统可以检测异常。您实际上可以计算一个分子时钟，并说，鉴于进化史，它的祖先是否与我们期望的相匹配？

如果是这样，这可能会对解决归因问题的终结有很长的路要走。如果新病毒比Covid出现的新病毒更糟糕甚至更糟糕，那么如果它是这样设计的，我们应该有一个很好的主意。这可以帮助政策制定者计划公共卫生的反应，并在必要时是政治或军事方面的反应。

鉴于它的目的是使合成生物学更容易且便宜，因此可以说，仅仅通过生成可以使设计师天花更加可行的工具，就可以说银杏本身就是问题的一部分。尽管如此，这种二分法似乎是一个银杏 - 铸造厂装饰侏罗纪公园纪念品，提醒您的潜力，也许还有风险。会做的公司的信心。）

政府试图降低这些风险 - 2023年，前总统乔·拜登（Joe Biden）的人工智能行政命令包括对购买合成DNA。但是银杏的麦克奈特（McKnight）认为，鉴于多个国家生物技术创新的速度及其所带来的好处，您别无选择，可以削减所有技术。

他说，当涉及到这项技术被滥用的风险时，您可以规范这项技术。您必须更好地做到这一点。您必须和对手做对策一样好。

当谈到中国时，国务院更加模糊地评估了该国继续从事潜在的[Bioweapon]应用的生物学活动，并且未能提供有关有效毒素的多元化毒素家庭的足够信息，并具有双重使用的应用。新战争领域……

麦克奈特（McKnight）认为，共同大流行的经验的主要收获是，今天美国不是一个生物保护国家。

他说，考维德损失了美国经济的损失数万亿美元而且，可能是我们在政治体系中看到的混乱的最大因素。[但是]与那里的某些潜在事物相比，这甚至没有那么糟糕。

埃斯维尔特（Esvelt）认为，大流行表明，库存预防设备（如呼吸器）的重要性，这可能是比疫苗更有效的第一道防线，并且应将其视为军事优先事项和公共卫生。他说，我们将失去一场热战争，在该战争中，我们的平民支持人员被一个大流行夺走，对手并非如此。”

AI可以以不同的方式在这里发挥作用。我们已经将生成性AI的潜力视为像病毒一样有效地创造和传播错误信息的工具。流行病学家杰伊·瓦尔玛（Jay Varma）最近警告冒着使用现有AI工具的流氓演员的风险模拟一种生物恐怖主义攻击将破坏一个地区或世界。

即使没有AI，谣言和错误信息在大流行中也猖ramp，侵蚀了公众对疫苗的信任。尽管有情报界的评估是不是故意的生物武器，有些政客继续暗示那是。（这对此的不确定性可能对Covid是否无意间从进行良性研究的实验室中释放出来的持续困惑可能并没有帮助，这是几个情报机构认为这是一种真正的可能性。）

同样，俄罗斯政府也传播了乌克兰正在经营实验室的谣言由美国著名媒体人物接收并传播，包括塔克·卡尔森。

所有这些都表明确定生物武器攻击是不是在爆发期间进行的发生可能同样重要的是Gingko的恩典技术的应用程序。

尽管人们越来越关注在政府一级致力于生物安全，但也有理由担心美国是否正在发展成为一个更加生物保护的国家。特朗普政府最近取消了1200万美元的赠款尽管五角大楼官员警告说，这会带来国家安全风险，但哈佛大学的生物安全研究。

正如霍夫曼在死手，许多从事该国生物武器计划工作的苏联领先的生物学家的真诚印象是，他们在美国的同行做的事情完全相同。冷战结束后，他们被惊呆了，得知美国人几十年前就停止了进攻计划。但这仅显示了对武器竞赛的不信任和竞争会掩盖现实。

随着当今合成生物学和AI的进步迅速，恩迪担心新的军备竞赛心态。自从冷战黎明以来，核竞争受到相互保证破坏的逻辑（疯狂）的支配，但他担心生物安全的动态将由他所说的悲伤的愚蠢保证的破坏来支配。

他说，对指控进行周到和谨慎的态度非常重要。”`如果我们不谨慎地构架和谈论武器计划，我们就会获得这种地缘政治自动免疫反应，从而导致一些非常糟糕的政策结果。换句话说，我们不想沿着威慑道路，通过拥有更强大的人来释放生物武器。恩迪说，取而代之的是，我们想沿着自然或人造生物威胁建立社会防御的弹性道路。

建立这些防御的第一步是确切地知道那里有哪些威胁。