OpenAI 的 Sam Altman 在一份新宣言中设想了一个人工智能乌托邦,并揭示了明显的盲点 - The Conversation Indonesia

2024-09-26 05:06:40 英文原文

到目前为止,我们中的许多人可能已经熟悉了人工智能的炒作。人工智能将让艺术家变得多余!AI可以做实验室实验!人工智能将结束悲伤!

即使按照这些标准,OpenAI 首席执行官 Sam Altman 本周在其个人网站上发布的最新声明似乎也非常夸张。他宣称,我们正处于智能时代的边缘,由超级智能提供支持,而距离我们可能只有几千天的时间。新时代将带来惊人的胜利,包括解决气候、建立太空殖民地以及发现所有物理学。

Altman 和他的公司正试图从投资者那里筹集数十亿美元,并推出前所未有的大型数据中心。向美国政府倾斜,同时裁减关键员工并放弃其非营利根基,让奥特曼分享所有权,这可以从炒作中获益匪浅。

然而,即使抛开这些动机,也值得一看一些奥特曼预测背后的假设。经过仔细观察,他们揭示了很多关于人工智能最大拉拉队员的世界观以及他们思维中的盲点。

思想的蒸汽引擎?

Altman 将他的奇妙预测建立在两个方面:-人类历史段落:

随着时间的推移,人们的能力显着增强;我们现在已经可以完成前人认为不可能的事情了。

这是一个在人类智慧的推动下,朝着单一方向取得彻底进步的故事。奥特曼揭示的科学技术的累积发现和发明已经引导我们找到了计算机芯片,并不可避免地引导我们走向了人工智能,它将带我们走完通往未来的道路。这种观点在很大程度上要归功于奇点运动的未来主义愿景。

这样的故事非常简单。如果人类智能已经推动我们达到了更高的高度,那么我们很难不得出这样的结论:更好、更快的人工智能将推动进步更远更高。

这是一个古老的梦想。1820年代,当查尔斯·巴贝奇在英国工业革命中看到蒸汽机彻底改变了人类的体力劳动时,他开始想象建造类似的机器来自动化脑力劳动。巴贝奇的分析引擎从未被建造出来,但人类最终成就将需要机械化思想本身的观念一直存在。

根据奥特曼的说法,现在(几乎)处于那个山顶。

深学习有效,但为了什么?

奥特曼说,我们如此接近辉煌的未来的原因很简单:深度学习有效。

深度学习是一种特殊的机器学习,涉及人工神经网络,松散地受到生物神经系统的启发。它在一些领域无疑取得了令人惊讶的成功:深度学习背后的模型已被证明擅长以或多或少连贯的方式将单词串在一起,生成漂亮的图片和视频,甚至有助于解决一些科学问题。

所以深度学习的贡献并非微不足道。它们可能会产生重大的社会和经济影响(正面和负面)。

但深度学习仅适用于有限的问题。Altman 知道这一点:

人类发现了一种算法,可以真正真正学习任何数据分布(或者真正产生任何数据分布的基本规则)。

这就是深度学习的作用,这就是它的工作原理。这很重要,它是一种可以应用于各个领域的技术,但它远不是唯一存在的问题。

并不是每个问题都可以简化为模式匹配。并非所有问题都提供深度学习完成其工作所需的大量数据。这也不是人类智能的运作方式。

一把大锤子找钉子

这里有趣的是,奥特曼认为数据规则将有助于解决所有人类问题.

有句谚语说,拿着锤子的人很可能将一切视为钉子。Altman 现在拿着一把非常昂贵的大锤子。

深度学习可能会起作用,但这只是因为 Altman 和其他人开始重新想象(并构建)一个由数据分布组成的世界。这里存在一个危险,即人工智能开始限制而不是扩展我们正在解决的问题类型。

在奥特曼对人工智能的庆祝中几乎看不到的是深度学习所需的不断扩大的资源去工作。我们可以承认现代医学、交通和通讯(仅举几例)的巨大成就和非凡成就,但不必假装这些并没有付出巨大的代价。

它们对某些人类来说是付出了代价的对于他们来说,北半球的收益意味着收益递减,而动物、植物和生态系统则被资本主义和技术的榨取力量无情地剥削和破坏。

虽然奥特曼和他的支持者朋友们可能会驳斥这样的观点:吹毛求疵,成本问题正是对人工智能未来的预测和担忧的核心。

Altman 当然意识到人工智能面临着局限性,并指出我们仍然有很多细节需要考虑。出去。其中之一是训练人工智能模型的能源成本迅速增加。

微软最近宣布拨款 300 亿美元,用于建设人工智能数据中心和为其提供动力的发电机。这家老牌科技巨头已向 OpenAI 投资超过 100 亿美元,还与三哩岛核电站(因 1979 年核泄漏而臭名昭著)的所有者签署了一项协议,为 AI 提供电力。疯狂的支出表明空气中可能弥漫着一丝绝望的气息。

魔法还是只是魔法思维?

考虑到此类挑战的严重性,即使我们接受奥特曼的乐观看法人类迄今为止的进步,我们可能不得不承认,过去可能不是未来的可靠指南。资源是有限的。已达到极限。指数增长可能会结束。

奥特曼的帖子最能说明问题的并不是他的鲁莽预测。相反,出现的是他对科学和进步的无限乐观。

这让人很难想象 Altman 或 OpenAI 会认真对待技术的缺点。有了这么多的收获,为什么还要担心一些琐碎的问题呢?当人工智能看起来如此接近胜利时,为什么要停下来思考?

围绕人工智能出现的与其说是一个智能时代,不如说是一个通货膨胀时代,导致资源消耗膨胀、公司估值膨胀,最重要的是,夸大人工智能的前景。

确实,我们中的一些人现在所做的事情在一个半世纪前似乎很神奇。这并不意味着从那时到现在的所有变化都变得更好。

人工智能在许多领域都具有巨大的潜力,但想象它掌握着解决所有人类问题的关键,这也是一种神奇的思维。

p>

关于《OpenAI 的 Sam Altman 在一份新宣言中设想了一个人工智能乌托邦,并揭示了明显的盲点 - The Conversation Indonesia》的评论


暂无评论

发表评论

摘要

到目前为止,我们中的许多人可能已经熟悉了人工智能的炒作。尽管 Altman 和他的支持者朋友可能会认为这种观点是吹毛求疵,但成本问题正是对人工智能未来的预测和担忧的核心。Altman 当然意识到人工智能面临着局限性,并指出仍然有很多细节我们必须弄清楚。其中之一是训练人工智能模型的能源成本迅速增加。疯狂的支出表明空气中可能弥漫着一丝绝望的气息。当人工智能看起来如此接近胜利时,为什么要停下来思考呢?围绕人工智能出现的与其说是一个智能时代,不如说是一个通货膨胀时代,导致资源消耗膨胀、公司估值膨胀,最重要的是,膨胀了人工智能的前景。当然,我们中的一些人现在所做的事情在一个半世纪前似乎很神奇。