来自至少九个国家和欧盟的政府科学家和人工智能专家将在美国大选后在旧金山举行会议协调安全开发人工智能技术并避免其危险。
乔·拜登总统政府周三宣布，计划于 11 月 20 日至 21 日举行为期两天的国际人工智能安全会议。会议将在代表们出席一年多后举行在英国举行的人工智能安全峰会上承诺共同努力遏制人工智能进步带来的潜在灾难性风险。
美国商务部长吉娜·雷蒙多 (Gina Raimondo) 告诉美联社，这将是英国峰会以及 5 月份在韩国举行的后续会议之后举行的第一次实际工作会议，该会议引发了一个由公众支持的安全机构组成的网络，以推进该技术的研究和测试。
专家们可能面临的紧迫话题之一是人工智能生成的造假行为的稳步上升，但也存在一个棘手的问题，即如何知道人工智能系统何时具有如此广泛的能力或危险性，以至于需要护栏。雷蒙多在接受采访时表示，我们将考虑如何与各国合作制定标准，因为这涉及合成内容的风险、人工智能被恶意行为者恶意使用的风险。因为如果我们控制住风险，想象一下我们能取得什么成就就令人难以置信。
旧金山会议坐落在一个已成为当前生成人工智能技术浪潮中心的城市，旨在这是在 2 月份于巴黎举行的更广泛的人工智能峰会之前就安全措施进行的技术合作。这将在副总统卡马拉·哈里斯和前总统唐纳德·特朗普之间举行总统选举后大约两周进行，前者帮助制定了美国对人工智能风险的立场，而前总统唐纳德·特朗普发誓要撤销拜登标志性的人工智能政策。
雷蒙多和国务卿国家人工智能安全机构安东尼·布林肯 (Antony Blinken) 宣布，他们的机构将共同主办这次会议，该会议将利用美国、英国以及澳大利亚、加拿大、法国、日本、肯尼亚、韩国、新加坡新成立的国家人工智能安全机构网络以及由 27 个国家组成的欧盟。
参与者名单中缺少的最大人工智能强国是中国，它不是该网络的一部分，不过雷蒙多表示，我们仍在努力弄清楚还有谁可能加入
我认为，我们一致希望避免某些风险，比如人工智能应用于核武器、人工智能应用于生物恐怖主义，她说。世界上每个国家都应该认识到这些都是坏事，我们应该共同努力防止它们发生。
许多政府都承诺保护人工智能技术，但他们采取了不同的方法，欧盟率先颁布了一项全面的人工智能法，对风险最高的应用程序设置了最严格的限制。
拜登去年 10 月签署了一项人工智能行政命令，要求最强大的人工智能系统的开发人员共享安全测试向政府提供结果和其他信息。它还授权商务部制定标准，以确保人工智能工具在公开发布之前安全可靠。
ChatGPT 的制造商、总部位于旧金山的 OpenAI 上周表示，在发布其最新模型 o1 之前，，它授予了美国和英国国家人工智能安全机构的早期准入资格。该公司表示，这款新产品超越了该公司著名的聊天机器人，能够执行复杂的推理，并在回答查询时产生长的内部思维链，并且在大规模杀伤性武器类别中构成中等风险。
自 2022 年底生成式人工智能工具开始吸引世界以来，拜登政府一直在敦促人工智能公司承诺在其最复杂的模型发布到世界各地之前对其进行测试。
也就是说正确的模型，雷蒙多说。话虽如此，现在这一切都是自愿的。我认为我们可能需要超越自愿制度。我们需要国会采取行动。
科技公司原则上大多同意人工智能监管的必要性，但有些公司对他们认为可能扼杀创新的提议感到愤怒。在加利福尼亚州，州长加文·纽瑟姆 (Gavin Newsom) 周二签署了三项具有里程碑意义的法案，以在 2024 年大选前打击政治深度造假，但尚未签署或否决一项更具争议性的措施，该措施将监管极其强大的人工智能模型，这些模型尚不存在，但如果建造它们可能会带来严重风险。