人工智能可以拯救人类,但前提是人们能够控制它 Ben Goertzel - Cointelegraph

2024-10-02 10:52:57 英文原文

随着最近发布的 iPhone 16(苹果承诺针对人工智能进行优化),很明显人工智能再次正式成为普通消费者的首要考虑因素。然而,与最具前瞻性的人工智能技术专家预计在不久的将来可以实现的巨大能力相比,这项技术仍然相当有限。

尽管这项技术仍然令人兴奋,但许多人仍然担心将其如此深入地融入社会可能会产生负面后果。一个普遍的担忧是,足够先进的人工智能可能会将人类视为威胁并反对我们所有人,这是许多科幻故事中想象的场景。然而,一位领先的人工智能研究人员表示,大多数人的担忧可以通过人工智能开发的去中心化和民主化来缓解。

在《议程》播客的第 46 集中,主持人乔纳森·德扬 (Jonathan DeYoung) 和雷·萨尔蒙德 (Ray Salmond) 通过与本·戈策尔 (Ben Goertzel) 是一位计算机科学家和研究员,他首先普及了通用人工智能 (AGI) 一词。Goertzel 目前担任 SingularityNET 和 ASI 联盟的首席执行官,领导项目开发世界上第一个 AGI。

通用人工智能的真正力量

Goertzel 定义了AGI 作为一种人工智能,可以完成人类能做的所有事情,包括人类超越我们所学的能力。这与已经存在了一段时间的更狭隘的人工智能不同,后者会做一些高度具体的事情,但不会试图拥有人类思维的整个广泛范围。

虽然像 ChatGPT 这样的大型语言模型有能力Goertzel 表示,虽然它们无法执行许多一般任务,但它们不符合通用人工智能的资格,因为它们不会冒险超出训练范围。

开发通用人工智能可以带来许多潜在的改变世界的好处。戈策尔说,我们可以消除人类日常生活层面的物质匮乏,就像我们可以把我们的狗想吃的所有牛排都鼓起来一样。我们不必再为了生计而工作了。像死亡和疾病这样的事情应该可以通过纳米技术来治愈,先进的人工智能大概可以创造出纳米技术。

我的意思是,消除稀缺、死亡和疾病,这些都是非常大的好处,超越了那些较小的好处。我们一直在媒体上看到谈论,比如自动驾驶汽车和无人机将亚马逊的东西送到你家门口等等。


相关:人工智能的 OriginTrail,现实世界的采用和知识的价值:议程播客

如何安全地开发通用人工智能

然而,强大的通用人工智能并非没有风险。戈策尔告诉《议程》,虽然《终结者》式的世界末日大灾难不太可能发生,但不能完全排除它的可能性,但它的发展还存在其他固有的风险。他认为,人类可以出于自身利益而采用中等先进的人工智能,并利用它们对其他人类做出恶劣的事情,这是一个非常、非常、非常明显和明显的风险。

如果你看看我们现在作为一个物种如何运作世界,并且考虑引入与人类大致一样聪明的人工智能,那么最明显的事情就是大公司使用这些人工智能来为自己赚更多钱,而拥有庞大军队的国家则利用这些人工智能来获得更多权力。

Goertzel 表示,避免这些担忧并确保 AGI 用于造福全人类的方法是使其去中心化和民主化。。这样,它就不能被少数势力强大、只顾自己狭隘利益的人所控制。

你需要的是某种方法来分散人工智能运行的所有这些进程,然后你他认为,需要一种方法将数据摄取分散到所有这些处理器中。这就是 SingularityNET 的设计目的。[] 奇点让你可以收集人工智能代理,并在不属于任何中央方拥有和控制的机器上运行它们。

这是为了人类福祉而推出人工智能的正确方式。

blockquote>

要了解 Goertzels 与 The Agenda 的对话的更多内容,包括他对 AGI 如何延长人类寿命、好莱坞对人工智能的正确和错误的看法以及 AGI 是否会解开宇宙的秘密的想法,请收听整集在 Cointelegraphs 播客页面、Apple 播客或 Spotify 上。别忘了查看 Cointelegraphs 的其他节目全阵容!

杂志:先进的人工智能系统已经是有自我意识的 ASI 联盟创始人

本文仅供一般参考,并不构成旨在且不应被视为法律或投资建议。这里表达的观点、想法和意见仅是作者本人,并不一定反映或代表Cointelegraph的观点和意见。

关于《人工智能可以拯救人类,但前提是人们能够控制它 Ben Goertzel - Cointelegraph》的评论


暂无评论

发表评论

摘要

随着最近发布的 iPhone 16(苹果承诺针对人工智能进行优化),很明显人工智能再次正式成为普通消费者的首要考虑因素。尽管这项技术仍然令人兴奋,但许多人仍然担心将其如此深入地融入社会可能带来的负面后果。Goertzel 目前担任 SingularityNET 和 ASI Alliance 的首席执行官,领导开发世界上第一个 AGI 的项目。通用人工智能的真正力量Goertzel 将 AGI 定义为一种人工智能,它可以完成人们可以做的所有事情做,包括人类超越我们所学的能力。他认为,人类可以出于自身利益而使用中等先进的人工智能,并利用它们对其他人类做出恶劣的事情,这是一个非常、非常、非常明显和明显的风险。要了解 Goertzel 与 The Agenda 的对话的更多内容,包括他对 AGI 如何延长人类寿命的想法、好莱坞对 AI 的正确和错误的看法,以及 AGI 是否会解开宇宙的秘密,请收听 Cointelegraphs 播客页面上的完整剧集,苹果播客或 Spotify。