2024-09-17 19:43:00 英文原文
世界领先的人工智能科学家正在敦促世界各国政府共同努力，在为时已晚之前对这项技术进行监管。
三位图灵奖获得者基本上是计算机科学界的诺贝尔奖，他们帮助引领了这项研究和开发人工智能领域的专家与来自世界各地的十几位顶尖科学家签署了一封公开信，呼吁为人工智能的发展制定更好的保障措施。
科学家们声称，随着人工智能技术的快速发展，任何错误或滥用都可能带来科学家在信中写道，人类失去控制或恶意使用这些人工智能系统可能会给全人类带来灾难性后果。他们还警告说，随着人工智能发展的快速步伐，这些灾难性后果随时可能发生。
科学家概述了以下步骤，以立即开始解决恶意人工智能使用的风险：
政府需要在人工智能安全预防措施方面进行合作。科学家的一些想法包括鼓励各国建立专门的人工智能当局，以应对其境内的人工智能事件和风险。这些当局最好能够相互合作，从长远来看，应该成立一个新的国际机构来防止人工智能模型的发展给世界带来风险。
该机构将确保各国采用和实施人工智能模型。信中写道，实施一套最低限度的有效安全准备措施，包括模型注册、披露和绊线。
另一个想法是要求开发者有意识地进行关于保证模型的安全，承诺他们不会跨越红线。开发人员发誓不会创造能够自主复制、改进、寻求权力或欺骗其创造者的人工智能，也不会创造那些能够制造大规模杀伤性武器和进行网络攻击的人工智能，正如顶级科学家去年在北京的一次会议上发表的声明中所指出的那样。
另一项建议是创建一系列全球人工智能安全和验证基金，由政府、慈善家和企业提供资金，以赞助独立研究帮助开发更好的人工智能技术检查。
在恳请政府对人工智能安全采取行动的专家中，有三位图灵奖获得者，其中包括中国一些最成功的科技企业家的导师姚明 (Andrew Yao)，以及中国最成功的科技企业家约书亚·本吉奥 (Yoshua Bengio)。世界上被引用次数最多的计算机科学家之一，以及杰弗里·辛顿 (Geoffrey Hinton)，他是 OpenAI 联合创始人兼前首席科学家伊利亚·苏茨克韦尔 (Ilya Sutskever) 的导师，并在 Google 从事机器学习工作十年。
在信中，科学家们赞扬了现有的人工智能国际合作，例如中美领导人五月份在日内瓦举行的会议讨论人工智能风险。但他们表示需要更多的合作。
科学家认为，人工智能的发展应该伴随着工程师的道德规范，类似于适用于医生或律师的道德规范。信中写道，各国政府不应将人工智能视为一项令人兴奋的新技术，而应更多地将其视为一种全球公共产品。
总的来说，我们必须做好准备，避免随之而来的随时可能到来的灾难性风险。
数据表：通过对行业知名人士的深思熟虑的分析，保持技术业务的领先地位。
在此注册。