CNN —
当计算机科学家杰弗里·辛顿获奖时诺贝尔物理学奖他在周二因在机器学习方面的贡献而获得表彰，随即就他研究帮助推动的技术力量发出警告：人工智能。
“它将与工业革命相媲美，”他说。说刚刚宣布之后。“但不再是超越人类的体力，而是将超越人类的智力。我们没有经历过有比自己更聪明的事物是什么样子。”
赫顿，著名地退出谷歌为了警告人们关于人工智能的潜在危险，他被称为这项技术的教父。现在隶属于多伦多大学的他与普林斯顿大学教授约翰·霍普菲尔德共同获得了该奖，“以表彰他们在使机器学习成为可能的人工神经网络基础发现和发明方面的贡献。”
而欣顿承认，人工智能有可能改善社会的某些方面——比如在医疗保健等领域带来“巨大的生产率提升”——但他也强调了可能出现的“一系列潜在不良后果，尤其是这些技术可能失去控制的威胁。”
“我担心这样做的最终后果可能是创造出比我们更智能的系统，这些系统最终会掌控一切，”他说。
赫顿并不是第一个警告他所帮助开创的技术的风险的诺贝尔奖得主。这里有一些其他人在其职业生涯中对其自身工作发出类似警告的例子。
The （如果没有实际内容需要翻译，则输出原文，不要添加任何注释）1935年诺贝尔化学奖由一对夫妇分享的弗雷德里克·约里奥以及伊伦·约里奥-居里（女儿的女儿） laureates玛丽和皮埃尔·居里因发现第一种人工创造的放射性原子而获奖。这项工作为重要的进步作出了贡献。药品包括癌症治疗，但也适用于创造原子 bomb 的 由于“bomb”在这里没有特定上下文指代某个具体名词，保持不变。如需进一步精确化，请提供完整句子或更多背景信息。但如果严格遵循指令，“atomic bomb”的确切翻译是“原子弹”。因此最终结果可以更正为： 原子弹的
在他的诺贝尔奖演讲中讲座那一年，约里奥得出结论时发出警告，未来的科学家将“能够引发爆炸性的转化反应，真正的化学连锁反应。”
“如果这样的转化确实能在物质中传播，可以想象会释放出巨大的可用能量，”他说。“但不幸的是，如果这种传染扩散到我们星球上的所有元素，引发这样一场灾难的后果只能令人担忧。”
然而，乔利奥预测道，这“将是未来研究人员在我们希望的情况下采取必要的预防措施的同时尝试实现的一个过程。”
亚历山大·弗莱明爵士分享了1945年诺贝尔生理学或医学奖with埃尔温·蔡恩以及埃德蒙·弗洛里爵士青霉素的发现及其在治疗细菌感染方面的应用。
弗莱明于1928年首次发现了青霉素，到他获得诺贝尔奖时讲座1945年，他已对世界发出重要警告：“在实验室里，通过将微生物暴露于不足以杀死它们的青霉素浓度下，使微生物产生青霉素耐药性并不难，同样的情况偶尔也会在人体内发生。”
“有一天，普通人也可以在商店里买到青霉素，”他继续说道。“那时就存在这样的危险：无知的人可能会轻易地给自己用药不足，并通过将微生物暴露于非致死剂量的药物中，使它们产生抗药性。”
他说：“这是一个多年前如此重要且具有远见的思想。”杰弗里·格伯博士费城儿童医院传染病医生及抗菌 stewardship program 的医学总监。
在弗莱明最初发现抗生素近一个世纪之后，抗菌药物耐药性——即病原体如细菌对用来治疗它们的药物产生抗性——被认为是全球公共卫生面临的最大威胁之一。根据向世界卫生组织报告，仅2019年就造成了127万人死亡。
弗莱明警告的关键可能是抗生素过度广泛使用而非低剂量使用的理念。
“很多时候，人们完全不需要的情况下被开了抗生素，”Gerber在接受CNN邮件采访中说道。而且，“越来越多地，我们看到对抗几乎所有（有时是所有）抗生素具有抗性的细菌。”
保罗·伯格，他因开发了重组DNA技术而获得了1980年的诺贝尔化学奖，这项技术帮助快速启动生物技术行业的他并没有像一些同行获奖者那样对他研究的潜在风险发出如此严厉的警告。
但他确实承认了人们对基因工程可能带来的恐惧，包括生物战、转基因食品和基因疗法，后者是一种医学形式，涉及用正常功能的基因替换导致疾病的缺陷基因。
在他1980年的诺贝尔奖演讲中讲座伯格专门讨论了基因疗法，他说这种方法“存在许多陷阱和未知因素，其中包括针对任何特定遗传疾病进行治疗的可行性和必要性等方面的问题，更不用说风险了。”
“在我看来，”他继续说道，“如果我们想沿着这个方向前进，我们将需要更详细地了解人类基因的组织方式及其功能和调控机制。”
在一個面试几十年后，伯格指出，他和其他领域的科学家已经公开聚集在一起，承认这项技术的潜在危险，并着手制定防范措施，在一个被称为的会议上阿西乐玛尔，1975年。
“关于重组DNA或基因工程的担忧来自科学家，这是一个非常关键的事实，”他在2001年接受科学作家乔安娜·罗斯采访时如是说，诺贝尔奖网站上有一份访谈记录。
通过公开承认风险以及需要对其进行审查，伯格说：“我们获得了极大的公众赞赏和容忍，因此我们得以实际开始探讨如何防止我们的工作产生任何危险事物？”
到2001年，他说：“已经进行的经验和实验表明，我们曾经真正认为可能存在的那些担忧实际上并不存在。”
现在，基因治疗是医学的一个日益增长的领域，治疗方法批准通过对于镰状细胞病、肌肉萎缩症以及某些遗传性失明形式，尽管它尚未广泛使用，因为该技术仍然处于早期阶段复杂的进行管理并且非常昂贵。在早期阶段，这项技术导致了一名参与临床试验的17岁患者杰西·格尔辛于1999年死亡，引发了人们对这一技术的关注和争议。伦理问题关于研究是如何进行的以及该领域的进展缓慢。
尽管伯格本人也提出了担忧，但他于1980年的诺贝尔演讲结尾处仍呼吁保持乐观，并强调“继续前进的必要性”。
“重组DNA的技术突破为我们提供了一个新的、强大的方法来解决那些困扰人类几个世纪的问题。”他说，“像我这样的人绝不会回避这一挑战。”
四年前，詹妮弗·杜德纳和埃曼纽尔·夏彭蒂埃共享了诺贝尔化学奖开发一种称为CRISPR-Cas9的基因组编辑方法。
她的讲座杜纳详细介绍了这项技术在公共卫生、农业和生物医学领域内的“非凡而令人兴奋的机会”。
但她明确指出，在应用于人类生殖细胞时，工作必须更加谨慎进行，因为生殖细胞的基因变化会传递给后代，而体细胞中的任何基因变化则仅限于个体本身。
“从遗传性来看，当我们在植物或利用它来创建更好的人类疾病动物模型时考虑使用基因组编辑技术，对生殖细胞进行基因编辑是一项非常强大的工具，”Doudna说。“然而，当我们考虑到在人类身上使用生殖系编辑所引发的巨大伦理和社会问题时，情况就完全不同了。”
Doudna，创立了创新基因组学研究所本周她接受美国有线电视新闻网(CNN)采访时认为，“科学家关于他们发现可能被滥用的适当警告是一项重要的责任，也是一种有益于公众的服务，特别是在这项工作具有广泛的社会影响时。”
“那些最接近CRISPR科学的人明白，它是一个能够积极转变我们健康和世界的强大工具，但也可能被恶意使用，”她说。“我们已经看到了其他变革性技术如核能的这种双重用途——现在则是人工智能。”
CNN的Christian Edwards和Katie Hunt为这份报告做出了贡献。