联合国的AI警告越来越大

2025-09-26 14:20:39 英文原文

作者:Andrew R. Chow

欢迎回到循环,时间新的两次有关人工智能的新闻通讯。我们在Time.com和电子邮件中以故事为故事。对于我们的团队来说,这是一个忙碌的一周:塔林·皮莱(Tharin Pillay)在纽约联合国大会期间在现场,而哈里·布斯(Harry Booth)和尼基塔·奥斯特罗夫斯基(Nikita Ostrovsky)则在蒙特利尔的AIâ活动中。

如果您在浏览器中阅读此信息,为什么不订阅将下一个订阅直接交付到您的收件箱中?

订阅 在循环中

知道什么:联合国接受AI

AI登上领奖台联合国大会本周在纽约开会。当大会成员在巴勒斯坦和苏丹的危机上度过了大部分时间时,他们也为AI投入了一大块。周一,诺贝尔和平奖得奖者玛丽亚·雷萨(Maria Ressa)呼吁人们关注“ AI红线”的运动,恳请政府团结起来,以防止AI的普遍不可接受的风险。超过200名著名的政客和科学家,包括10位诺贝尔奖获得者登录声明。

新的窗帘周三,安全委员会就人工智能和国际和平与安全进行了公开辩论。在三个小时以上,每个国家轮流交出了大致相同的问题:AI对善与恶也持希望。一遍又一遍地,代表宣称AI不是科幻的,而是现代生活的事实,并且需要立即开发国际监管护栏,尤其是在自主武器和核方面。

最有趣的观点之一来自白俄罗斯,该观点引起人们对AI发展中日益增长的全球不平等的关注。代表说:``这次有一个新的窗帘,而不是意识形态,而是技术 - 将西方和世界另一部分分开,并将全球多数国家带入新殖民主义时代。”这导致了僵局和深渊。AI应该可用,所有禁止任何国家的国家都可以使用。

新机构 本节是由联合国总部提交的。周四,联合国举办了三个小时的“非正式会议”,启动了关于人工智能治理的全球对话。联合国秘书长安提特·古特雷斯(AntãnioGuterres)说:“这是每个国家第一次在AI桌子上席位。”古特雷斯还宣布,现在候选人开放提名,以加入新的国际独立科学小组AI,旨在为技术的影响提供公正的科学证据。他补充说:“我很快将开始与成员国,潜在资助者和合作伙伴进行磋商,以建立全球人工智能能力发展基金。”

紧随其后的是不丹,阿联酋和中国分享了AI如何巩固经济增长,以及政府部长,科技高管以及学术界和民间社会的代表的一系列“干预措施”,例如尼日利亚的Bosun Tijani,例如Ais Yoshua Bengio bengio and Amba aMii ami amii kak a ii kak a kak a kak a kak a kak of amp a kak of ampa amp a y hey of。常见的电话是要弥合差距,建造能力,分享福利,征收利益相关者以及被纠正的不平等现象。西班牙总理佩德罗·恩切斯(PedroSânchez)说:“人工智能的崛起是不可阻挡的。”“但是这是无法克服的。”

有人在听吗?目前尚不清楚这是否会对AI开发产生实际影响,因为硅谷公司不受联合国咨询的约束。但是联合国的召集确实代表了这项技术的更具社会整体和全球包容性的道路。

跟踪SB 53

乘两个去年,加利福尼亚州州长加文·纽瑟姆(Gavin Newsom)否决了一项州AI安全法案,即SB 1047,并告诉研究人员提出替代方案。他们做到了,议员们接受了他们的建议,并通过了更新的,浇水的版本,SB53。再次,所有人的目光都转向了Newsom:他实际上会忠于他的话语并支持这个版本或洞穴,或者对技术行业哭泣,哭泣的立法太过分了?

广泛支持虽然Newsom尚未将笔贴上纸,但他在周三在纽约的舞台上表示支持。我们有一个法案原谅我,在我的桌子上,我们认为达到了适当的平衡,'。我们与行业合作,但我们没有服从行业。

SB 53很重要,因为它为AI员工雕刻了举报人保护措施,并要求最大的开发商发布安全计划并报告安全事件。人类支持它,迪恩·鲍尔(Dean Ball),他制定了特朗普的AI行动计划。

增量胜利AI安全团体将该法案庆祝为重大胜利,尽管它缺乏去年1047年最严格的保护。决策必然是关于妥协的。您想尽可能地推动信封,但是您可以放弃增量主义。”技术监督项目执行董事Sacha Haworth说。举报人的保护措施是巨大的,而SB 53中的法规适用于最大的AI开发人员至关重要的事实至关重要。”

行动时间

Bengio
时代的哈里·布斯(Harry Booth)于9月24日在蒙特利尔举行的All In Conference上舞台上的Yoshua Bengio和Yoshua Bengio。全部Yoshua Bengio的签署人之一是Yoshua Bengio的,正如命运所拥有的那样,他在周三在蒙特利尔举行的All Hast the the All Harry Booth在舞台上接受了采访。

(会议与流行的技术播客无关。)两人谈到了推理模型的发展,政府远离安全性的枢纽以及他的新非营利组织Lawzero,该公司旨在在面对商业命令时重新设计AI安全。

他告诉哈利,这并不是这些系统将明天杀死任何人。但是,如果科学继续发展,这些系统的后代将具有越来越强大的推理能力,越来越多的知识。”

•如果我们不能确保它们按照我们的规范行事,那么无意识的人可以将它们用来做不道德的事情,我们可能会失去对它们的控制权,”他继续说道。因此,即使我们对这些可能性没有确定性,赌注也很高,以至于我们绝对需要确保即使是低概率事故也不会发生。”

你可以看整个面试这里

我们正在看什么

我刚看过电影政变的配乐,这是今年在奥斯卡颁奖典礼上提名的最佳纪录片。虽然这部电影与AI无关,但我发现其冷战的故事与这个AI时刻之间有许多共鸣,尤其是在描绘了两个全球超级大国争取控制资源和思维范围的人。

这部电影以刚果为中心,这对美国和美国的铀矿对于建造原子弹至关重要。在电影中,录像显示比利时总理加斯顿·埃斯肯斯(Gaston Eyskens)说,刚果的占领是必要的 - 不是要满足殖民地或帝国的愿望,而是要完成文明使命,以使一个较不发达的人的益处受益。非常熟悉为了夸大技术领导者一直在促进,尤其是当他们强调AI发展对国家安全和核能同样重要时。

作为技术领导者部署策略和叙事,以呼应殖民主义的策略(阅读Karen Hao以获取更多),刚果再次出现在十字准线中,矿工收获了为智能手机,计算机和电动汽车提供动力的钴类似从的条件

你可以租配乐进行政变$ 4在YouTube上

与报告Tharin Pillay/纽约。

关于《联合国的AI警告越来越大》的评论


暂无评论

发表评论

摘要

时代新的AI新闻通讯重点介绍了联合国大会在纽约举行的关键事件,以及在蒙特利尔举行的“ All in Ai in AI”会议。值得注意的时刻包括玛丽亚·雷萨(Maria Ressa)呼吁由200多个著名人物签署的“ AI红线”的呼吁,包括诺贝尔奖获得者;安全理事会对AI治理的讨论强调立即进行国际法规,以防止诸如自动武器之类的风险;联合国与秘书长安东尼奥·古特雷斯(AntónioGuterres)启动了全球对话论坛。此外,加利福尼亚州州长加文·纽瑟姆(Gavin Newsom)表示对SB 53的支持,这是一项更新的AI安全法案。该通讯还提到了Yoshua Bengio在蒙特利尔会议上重新设计AI安全性的讨论,并在冷战动力学与当前有关AI开发的技术行业实践之间取得了相似之处。