新加坡对人工智能安全的愿景桥接美国 - 中国鸿沟
作者：Will Knight
政府新加坡发行蓝图今天进行全球合作人工智能来自美国，中国和欧洲的AI研究人员会议之后的安全。该文件提出了通过国际合作而不是竞争来实现AI安全的共同愿景。
Max Tegmark说，新加坡是地球上为数不多的与东方相处融洽的国家之一。``他们知道自己不会建立[人工通用情报]对他们而做的，因此，拥有建立它的国家相互交谈非常符合他们的利益。”
这些国家认为，最有可能建造AGI的国家当然是美国和中国，但这些国家似乎比共同努力更愿意超越对方。一月份，中国初创公司DeepSeek之后发布了尖端模型特朗普总统称这是对我们行业的唤醒呼唤，并说美国需要以激光为专注于竞争获胜。”
新加坡在全球AI安全研究重点上的共识要求研究人员在三个关键领域进行合作：研究Frontier AI模型带来的风险，探索更安全的方法来构建这些模型，并开发控制最先进的AI系统行为的方法。
该共识是在4月26日与国际学习代表会议（ICLR）一起在新加坡举行的一项主要AI活动的会议上成立的。
来自OpenAI，Anthropic，Google DeepMind，XAI和Meta的研究人员都参加了AI安全活动，来自MIT，Stanford，Tsinghua和中国科学院等机构的学者也参加了AI安全活动。来自美国，英国，法国，加拿大，中国，日本和韩国的AI安全机构的专家也参加了会议。
Tsinghua大学院长Xue Lan在一份声明中说：“在地缘政治分裂的时代，对AI安全的尖端研究的全面综合是一个有前途的信号，即全球社区正在与塑造更安全的AI未来的共同承诺结合在一起。”
越来越有能力的AI模型的发展，其中一些具有令人惊讶的能力，使研究人员担心一系列风险。虽然有些专注于近期危害，包括偏见的AI系统或潜力利用技术的罪犯，有很大一部分人认为，随着人类开始使人类跨越更多的领域，AI可能对人类构成生存威胁。这些研究人员有时被称为AI毁灭者，担心模型可能会欺骗和操纵人类以追求自己的目标。
AI的潜力还激发了人们对美国，中国和其他强大国家之间的军备竞赛的讨论。这项技术在政策界被视为对经济繁荣和军事统治至关重要的，许多政府试图制定自己的愿景和法规，以制定如何发展。
关于《新加坡对人工智能安全的愿景桥接美国 - 中国鸿沟》的评论
暂无评论