CNN —
当计算机科学家杰弗里·辛顿获奖时诺贝尔物理学奖他在周二因其在机器学习方面的工作而受到表彰，随即他就发出警告，提醒人们注意他所推动的技术的力量：人工智能。
“它将与工业革命相媲美，”他说。说刚刚宣布之后。“但不再是超越人类的体力，而是将超越人类的智力。我们没有经历过有东西比我们更聪明的局面。”
赫顿，著名地退出谷歌为了警告人们关于人工智能的潜在危险，他被称为这项技术的教父。现在就职于多伦多大学的他与普林斯顿大学教授约翰·霍普菲尔德共同获得了该奖，“以表彰他们在使机器学习成为可能的人工神经网络的基础发现和发明方面的贡献。”
虽然辛顿承认人工智能有可能改善社会的某些方面——例如在医疗保健等领域带来“巨大的生产力提升”——但他也强调了可能出现的“一系列潜在不良后果，特别是这些技术失控的风险。”
“我担心这最终可能导致比我们更智能的系统获得控制权，”他说。
赫顿并不是第一位警告他所帮助开创的技术存在风险的诺贝尔奖得主。这里来看看其他发出类似警告的人，他们针对的是自己的工作。
The （没有可翻译的内容）1935年诺贝尔化学奖由一对夫妻分享的弗雷德里克·约里奥以及伊伦·约里奥-居里（女儿的女儿）诺贝尔奖得主玛丽和皮埃尔·居里因发现第一种人工制造的放射性原子而获得。这项工作将有助于重要进展在药品包括癌症治疗，但也适用于创造原子 bomb 的 由于“bomb”在这里没有对应的上下文进行更准确的翻译，保持了原词。如果有更多上下文信息，可以提供更加精确的翻译。但根据要求只输出翻译结果，所以输出为：“原子 bomb 的”。如果需要进一步调整或解释，请告知。
在他的诺贝尔奖演讲中讲座那一年，约里奥发出警告说，未来的科学家将“能够引发爆炸性的转化反应，真正的化学连锁反应。”
“如果这样的转化确实在物质中传播开来，可以想象会释放出巨大的可用能量，”他说。“但不幸的是，如果这种传染蔓延到我们星球上的所有元素，释放这样一场灾难的后果只能令人担忧。”
然而，乔利奥预测道，这“将是未来研究人员在我们希望的情况下采取必要的预防措施的同时会努力实现的过程。”
亚历山大·弗莱明爵士分享了1945年诺贝尔生理学或医学奖原文：with埃爾文·蔡恩和爱德华·弗洛里爵士青霉素的发现及其在治疗细菌感染方面的应用。
弗莱明于1928年首次发现了青霉素，到他获得诺贝尔奖时为止，讲座1945年，他已经对世界发出重要警告：“在实验室里，通过将微生物暴露于不足以杀死它们的青霉素浓度下，使微生物产生青霉素耐药性并不困难，同样的情况偶尔也在人体内发生。”
“到时候，任何人可能都能在商店里买到青霉素，”他继续说道。“然后就存在这样的危险：无知的人可能会轻易地给自己用药不足，并通过将微生物暴露于非致命剂量的药物中，使它们产生抗药性。”
他说：“这是多年前如此重要且具有远见的思想。”杰弗里·格尔伯博士费城儿童医院传染病医生及抗菌 stewardship program 的医学主任。
在弗莱明最初发现抗生素近一个世纪之后，抗微生物药物耐药性——即病原体如细菌对用于治疗它们的药物产生抵抗能力——被认为是对全球公共卫生的最大威胁之一。根据向世界卫生组织报告，仅2019年就导致127万人死亡。
弗莱明警告的关键可能在于抗生素被过度广泛使用，而不是低剂量使用的概念。
“很多时候，人们完全不需要的情况下也会被开抗生素，”Gerber在接受CNN电子邮件采访时说。而且，“越来越多地，我们发现一些细菌对几乎所有（有时是对所有）我们拥有的抗生素都具有抗药性。”
保罗·伯格，他因开发重组DNA技术而获得1980年诺贝尔化学奖。加速启动生物技术行业的他并没有像一些同行获奖者那样对他研究的潜在风险发出严厉的警告。
但他确实承认了人们对基因工程可能导致的后果的担忧，包括生物战、转基因食品和基因疗法，后者是一种医学形式，涉及用正常功能的基因替换导致疾病的缺陷基因。
在他的1980年诺贝尔奖演讲中讲座伯格特别关注基因治疗，他说这种方法“存在许多陷阱和未知数，其中包括对于任何特定遗传疾病进行基因治疗的可行性和必要性等问题，更不用说风险了。”
“在我看来，”他继续说道，“如果我们想要沿着这条路线继续前进，我们将需要更详细地了解人类基因的组织方式以及它们的功能和调控机制。”
在一名面试几十年后，伯格指出，他和其他该领域的科学家已经公开聚集在一起，承认这项技术的潜在危险，并致力于制定防护措施，在一个被称为的会议上阿西乐玛尔，1975年。
“关于重组DNA或基因工程的担忧来自科学家，这是一个非常关键的事实，”他在2001年接受科学作家乔安娜·罗斯采访时说，根据诺贝尔奖网站上的记录。
通过公开承认风险以及需要对其进行审查，伯格说：“我们获得了巨大的公众赞赏和容忍度，因此我们被允许真正开始处理如何防止我们的工作产生任何危险事物的问题？”
到2001年，他说：“已经进行的经验和实验表明，我们曾经真的认为可能存在的那些担忧实际上并不存在。”
现在，基因治疗是医学的一个增长领域，治疗方法越来越多样。批准通过对于镰状细胞病、肌肉萎缩症以及某些遗传性失明形式，尽管它尚未广泛使用，因为该技术仍然处于早期阶段复杂的管理和非常昂贵。在早期阶段，这项技术导致了一名临床试验参与者于1999年死亡，这名参与者是一位17岁的年轻人杰西·格尔辛格，这一事件引起了人们的关注：伦理问题关于研究是如何进行的以及该领域的工作进展缓慢。
尽管伯格自己也提出了担忧，但他于1980年的诺贝尔演讲结尾处呼吁保持乐观，并表示“有必要继续前进。”
“重组DNA技术的突破为我们提供了一个新的、强大的方法来应对那些困扰人类几个世纪的问题，”他说。“至少对我来说，我不会回避这一挑战。”
四年前，詹妮弗·杜德娜以及艾曼纽·夏彭蒂尔分享了诺贝尔化学奖用于开发称为CRISPR-Cas9的基因编辑方法。
她的讲座, 多特纳详细介绍了这项技术在公共健康、农业和生物医学等领域所面临的“非凡而令人兴奋的机会”。
但她明确指出，在应用于人类生殖细胞时，工作必须更加谨慎进行，因为这些细胞的基因变化会传给后代，而体细胞中的任何基因变化则仅限于个体本身。
“就遗传性而言，当我们在植物中使用它或利用它来创造更好的人类疾病动物模型时，基因编辑的生殖细胞是一个非常强大的工具，”Doudna说。“当我们考虑在人类身上使用生殖系编辑所引发的巨大伦理和社会问题时，情况则完全不同。”
Doudna，创立了创新基因组学研究所她在本周接受CNN采访时说，她认为“科学家关于他们发现可能被滥用的适当警告是一项重要的责任和有益的公共服务，尤其是当这项工作具有广泛的社会影响时。”
“那些最接近CRISPR科学的人明白，它是一个能够积极变革我们的健康和世界的强大工具，但也可能被恶意使用。”她说，“我们已经看到其他变革性技术如核能具有这种双重用途——现在则是人工智能。”
CNN的Christian Edwards和Katie Hunt为此报道做出了贡献。