今天发布的联合国报告建议让该国际机构监督第一个真正的全球监测和管理人工智能的努力。
该报告由联合国秘书长人工智能高级别咨询机构编写，建议成立一个类似于政府间气候变化专门委员会的机构，以收集有关人工智能及其风险的最新信息。
报告呼吁就人工智能展开新的政策对话，以便联合国 193 个成员国能够讨论风险并就行动达成一致。它还建议联合国采取措施，赋予较贫穷国家，特别是南半球国家权力，使其从人工智能中受益并为其治理做出贡献。报告称，这些措施应包括创建人工智能基金来支持这些国家的项目，建立人工智能标准和数据共享系统，以及创建培训等资源来帮助各国进行人工智能治理。全球数字契约可以促进报告中的一些建议，这是一项旨在解决国家之间数字和数据鸿沟的现有计划。最后建议在联合国内部设立一个人工智能办公室，专门负责协调联合国内部现有的努力，以实现报告的目标。
高级研究所教授阿隆德拉·尼尔森 (Alondra Nelson) 表示，国际社会一致认为人工智能既带来危害、风险，也带来机遇。和国务院。
近年来，大型语言模型和聊天机器人所展现的卓越能力引发了经济生产力革命的希望，但也促使一些专家警告人工智能可能发展得太快，很快就会变得难以控制。ChatGPT出现后不久，许多科学家和企业家联名签署了一封信，呼吁暂停技术开发六个月，以便评估风险。
更紧迫的担忧包括人工智能可能会自动生成虚假信息、生成深度伪造的视频和音频、大规模取代工人以及在工业规模上加剧社会算法偏见。尼尔森说，人们有一种紧迫感，觉得我们需要共同努力。
联合国的提案反映了世界各地决策者对监管人工智能以减轻这些风险的浓厚兴趣。但与此同时，主要大国（尤其是美国和中国）也在争相引领一项有望带来巨大经济、科学和军事利益的技术，并且这些国家就如何使用和控制这项技术提出了自己的愿景。
3月份，美国向联合国提交了一项决议，呼吁会员国拥抱安全可靠、值得信赖的人工智能的发展。7月，中国提出了自己的一项决议，强调在人工智能开发和广泛应用该技术方面进行合作。所有联合国成员国都签署了这两项协议。
华盛顿特区智库布鲁金斯学会的专家约书亚·梅尔策 (Joshua Meltzer) 表示，人工智能是中美竞争的一部分，因此他们只能在很多方面达成一致。他说，主要区别包括人工智能应体现哪些规范和价值观以及对隐私和个人数据的保护。富裕国家之间对人工智能的看法差异已经造成市场裂痕。欧盟推出了全面的人工智能法规和数据使用控制，这促使一些美国公司限制其产品在欧盟的供应。
美国政府采取的不干涉做法导致加州提出了自己的人工智能规则。这些法规的早期版本被总部位于当地的人工智能公司批评为过于繁琐，例如，它们要求公司向政府报告其活动，从而导致规则被淡化。
Meltzer 补充道，人工智能的发展速度如此之快，以至于联合国无法单独管理全球合作。他说，在人工智能治理方面，联合国显然可以发挥重要作用，但它需要成为分布式架构的一部分，各个国家也可以直接致力于此。您拥有快速发展的技术，而联合国显然无法应对这一问题。
联合国报告旨在通过强调人权的重要性来在成员国之间建立共同点。英国牛津大学研究国际人工智能治理的教授克里斯·拉塞尔 (Chris Russell) 表示，从人权角度进行分析非常引人注目。它为这项工作奠定了坚实的国际法基础、非常广泛的范围，并重点关注人们遭受的具体伤害。
Russell 补充道，政府为了监管而评估人工智能的工作存在大量重复。例如，美国和英国政府有独立的机构致力于调查人工智能模型的不当行为。联合国的努力可能会避免进一步的裁员。他说，在国际上开展工作并共同努力非常有意义。
尽管政府可能将人工智能视为获得战略优势的一种方式，但许多科学家对人工智能的担忧是一致的。本周早些时候，在奥地利维也纳举行的人工智能安全主题会议之后，一群来自西方和中国的知名学者联合呼吁加强人工智能安全方面的合作。
咨询机构成员尼尔森表示，她相信政府领导人也可以在重要问题上进行合作。但她表示，很大程度上取决于联合国及其成员国如何选择贯彻合作蓝图。她说，问题在于实施细节。