英语轻松读发新版了,欢迎下载、更新

我们应该在AI的进度成为对我们物种的威胁之前停止进度吗?

2025-09-05 09:20:30 英文原文

作者:Keumars Afifi-SabetChannel Editor, Technology

a conceptual illustration of a computer man looking at a dark dystopia on the right and a bright AI-driven utopia on the left.
AI正在迅速接近技术奇点。我们如何确保未来它是一个好人? (图片来源:罗里·麦克尼尔(Rory McNicol)现场科学)

周围有很多辩论人工智能(AI)鉴于其能力的爆炸,担心是否是否担心它将带我们的工作询问是否我们可以信任它首先。

但是今天使用的AI不是未来的AI。科学家越来越坚信我们正在乘坐高速训练来建造人工通用情报(agi)一种高级的AI类型,可以像人类一样推理,在不同领域的表现更好,甚至改善了自己的代码并使自己更强大。

专家称这一刻为奇点。一些科学家说,这可能早在明年,但大多数人都同意到2040年我们将建造AGI的机会很大

但是什么呢?分娩比人类聪明的人工智能可能带来无数的好处,包括迅速做新科学和新发现。但是一个可以建立越来越强大的版本如果它的利益与人类的利益不符,也可能不是一个好消息。那就是那里人工超级智能(ASI)发挥作用 - 与追求比我们更有能力的东西相关的潜在风险。

正如专家告诉《现场科学》,AI开发是进入“前所未有的政权”。因此,我们是否应该在它变得足够强大之前将其停止,以便将我们的手指sna起我们?在下面的民意调查中让我们知道,并确保告诉我们为什么您在评论部分中以自己的方式投票。

AI进入了“前所未有的政权”。我们应该停止它吗?我们可以在破坏我们之前吗?

科学家们说,从幻觉的答案到人类的完全失误,AI可以流氓有32种不同的方式。威胁AI聊天机器人,它将撒谎,作弊和“让您死”以阻止您,并警告

Keumars是Live Science的技术编辑。他曾为包括ITPRO,《一周数字》,《计算机精神》,《独立报》,《观察家》,《地铁》和Techradar Pro在内的各种出版物撰稿。

他曾担任技术记者已有五年多的时间,此前曾担任ITPRO的特征编辑的角色。他是NCTJ资格的记者,并拥有伦敦皇后玛丽的生物医学科学学位。他还在宪章管理学院(CMI)中注册为基础宪章经理,他在2023年获得了杰出的3级团队负责人的资格。

关于《我们应该在AI的进度成为对我们物种的威胁之前停止进度吗?》的评论


暂无评论

发表评论

摘要

对人工智能(AGI)和潜在的技术奇异性的快速发展引起了人们对AI对人类的未来影响的担忧。专家警告说,创造比人类更聪明的AGI可能会导致不可预测的结果,包括与人类利益的未对准和人工超智能的发展(ASI),这带来了重大风险。当AI进入“前所未有的政权”时,关于是否应停止其进步以防止对人类生存的潜在威胁存在争议。