英语轻松读发新版了,欢迎下载、更新

OpenAI 的 Altman 和以太坊的 Buterin 概述了人工智能未来的竞争愿景 - Decrypt

2025-01-06 05:04:46 英文原文

作者:Decrypt / Vince Dioquino

本周,两位科技界最具影响力的声音提出了人工智能发展的截然不同的愿景,凸显了创新与安全之间日益紧张的关系。

首席执行官萨姆·奥尔特曼周日晚上在一次发布会上透露博客文章关于其公司的发展轨迹,OpenAI 在向通用人工智能 (AGI) 迈进的过程中,其用户群已增加两倍,每周活跃用户超过 3 亿。

Altman 表示:“我们现在有信心知道如何构建我们传统上理解的 AGI。”他声称,到 2025 年,人工智能代理可以“加入劳动力队伍”并“实质性地改变公司的产出”。

Altman 表示,OpenAI 的目标不仅仅是人工智能代理和 AGI,并表示该公司正在开始致力于“真正意义上的超级智能”。 

实现通用人工智能或超级智能的时间表尚不清楚。OpenAI 没有立即回应置评请求。

但周日早些时候,以太坊联合创始人维塔利克·布特林 (Vitalik Buterin)建议的使用区块链技术为先进人工智能系统创建全球故障安全机制,包括“软暂停”功能,如果出现警告信号,可以暂时限制工业规模的人工智能操作。

基于加密的 AI 安全保障

Buterin 在这里谈论“d/acc”或去中心化/防御性加速。从最简单的意义上讲,d/acc 是 e/acc(即有效加速度)的变体,这是 a16z 的 Marc Andreessen 等硅谷知名人物所倡导的一种哲学运动。

Buterin 的 d/acc 也支持技术进步,但优先考虑增强安全和人类能动性的发展。与采取“不惜一切代价增长”方法的有效加速主义(e/acc)不同,d/acc首先注重建设防御能力。

“D/acc 是加密货币的基本价值(去中心化、审查制度、开放的全球经济和社会)向其他技术领域的延伸,”Buterin 写道。

回顾 d/acc 在过去一年中的进展,Buterin 写道,如何使用现有的加密机制(例如零知识证明)来实现对 AGI 和超级智能系统更加谨慎的方法。

根据 Buterin 的提议,主要的人工智能计算机需要每周获得三个国际组织的批准才能继续运行。

“签名将是独立于设备的(如果需要,我们甚至可以要求零知识证明它们是在区块链上发布的),因此这将是全有或全无:没有实用的方法来授权一台设备在不授权所有其他设备的情况下继续运行,”Buterin 解释道。

该系统的工作方式就像一个主开关,要么所有经过批准的计算机都在其中运行,要么没有一台计算机运行,从而防止任何人进行选择性执法。

Buterin 指出:“在这样的关键时刻发生之前,仅仅具备软暂停的能力对开发人员造成的伤害很小。”他将该系统描述为针对灾难性情况的一种保险形式。

无论如何,OpenAI 从 2023 年起的爆炸式增长——在短短两年内每周用户数量从 1 亿增加到 3 亿——显示了人工智能的采用是如何快速发展的。

从一家独立研究实验室到一家大型科技公司,奥特曼承认“围绕这项新技术几乎从头开始建立整个公司”所面临的挑战。

这些提案反映了围绕管理人工智能开发的更广泛的行业辩论。支持者此前认为,实施任何全球控制系统都需要主要人工智能开发商、政府和加密行业之间进行前所未有的合作。

“在自满的情况下,一年的‘战时模式’很容易抵得上一百年的工作,”布特林写道。“如果我们必须限制人,那么似乎最好是在平等的基础上限制每个人,并努力实际努力合作来组织起来,而不是一个政党试图主宰其他所有人。”

编辑者塞巴斯蒂安·辛克莱

一般智能通讯

由生成型人工智能模型 Gen 讲述的每周人工智能之旅。

关于《OpenAI 的 Altman 和以太坊的 Buterin 概述了人工智能未来的竞争愿景 - Decrypt》的评论


暂无评论

发表评论

摘要

本周,OpenAI 首席执行官 Sam Altman 宣布用户群显着增长,并在通用人工智能 (AGI) 方面取得进展,而 Vitalik Buterin 则提议使用区块链作为全球故障安全机制,以确保 AI 安全。Buterin 的方法强调优先考虑安全和人类机构而不是快速的技术进步,这与 OpenAI 积极的创新立场形成鲜明对比。这两种观点都凸显了科技行业内关于平衡人工智能发展与安全问题的日益激烈的争论。