OC

Knowledge OS
鹦鹉螺口语
我帮助建立了 Facebook,却发现它出了问题。人工智能正朝着同样的方向发展|财富
2026-03-29 13:30:00 · 英文原文

我帮助建立了 Facebook,却发现它出了问题。人工智能正朝着同样的方向发展|财富

作者:Justin Rosenstein

当我 22 岁的时候,我坐在 21 岁的马克·扎克伯格对面,他说服我加入 Facebook,带着他连接人们的愿景。我帮助他建造了它,然后看着它变成了一台让他们上瘾的机器。因为上瘾更有利可图。

每个社交媒体公司都遵循相同的逻辑: 如果我们不这样做,其他人就会这样做。现在,这种逻辑正在推动人工智能。

人工智能可以创造前所未有的丰富——或者我们无法挽回的未来。我们如何取得良好结果是我们这个时代的决定性问题。上周的白宫框架提出了一个熟悉的答案:保护人工智能行业免受责任,并让公司来解决这个问题。

但为了让人工智能服务于公众利益,我们必须让公众对人工智能负责。

如果有什么事情要重塑我们的生活,我们应该对如何重塑拥有发言权。这就是民主的定义。

人工智能已经统治你

人工智能已经在塑造你所看到的东西、为你提供的工作、你有资格获得的贷款,甚至谁会成为军事目标。而你对此没有发言权。尽管专家提出了严重的安全担忧,但各公司仍陷入了尽快部署人工智能的竞赛。他们的首席执行官——山姆·奥尔特曼、达里奥·阿莫迪、德米斯·哈萨比斯、埃隆·马斯克和马克·扎克伯格——都面临着同样的陷阱:如果我不做,其他人就会做。他们是对的。这就是为什么我们需要改变游戏规则。

在这一点上,公众已经领先于华盛顿。Blue Rose Research 的民意调查显示,66% 的美国人支持公民小组帮助制定人工智能规则。这个数字适用于特朗普选民、拜登选民和摇摆选民。79% 的人担心政府没有针对人工智能驱动的失业的计划。人们并非冷漠,而是被拒之门外。

“公共控制”实际上是什么样子

“公众当家”并不意味着选举由金钱和游说者主导。它意味着公民集会:代表普通民众的横截面——认为是自愿陪审团——给出广泛的专家简报和结构化审议,然后授予真正的权力来设定具有约束力的目标和约束。

公民不编写代码。他们决定代码的用途,技术专家负责实施。

这种模式已经运作了数千年。爱尔兰就是这样打破了婚姻平等和堕胎问题上的政治僵局,这个僵局让几代政客都陷入了瘫痪。台湾、英国和比利时的议会已经在制定人工智能政策,就从面部识别到虚假信息再到未来工作等各个方面提出建议。与民选官员不同,普通公民不需要取悦捐助者,不需要争取连任,也没有动力为公众以外的任何人服务。 

公共治理改变结果。留给市场,人工智能将优化参与度。为了制药利润。用于更换工人。对于学习、患者健康和赋予工人权力来说,民主治理是指向正确方向的杠杆。 

基础设施已经存在

世界各地的人们——包括我创立的非营利组织 One Project——已经在建设基础设施来实现这一目标:大规模民主治理的参与平台。

这种公有制是有先例的。我们已经将影响每个人的资源——电波、水道和海滩——视为公共信托。这不是国有化。这就是民主。

人工智能有望创造数万亿美元的新财富。但人人受益的未来需要公众(而不是股东)来控制:民主地分配资源用于儿童保育和老年人护理、人工智能相关工作替代的再培训计划以及新的教育模式。

窗户正在关闭

华盛顿正在朝相反的方向前进。专家们表示,公众意见分歧太大,问题技术性太强,与中国的竞争对民主来说太紧迫。但民主监督是阻止危险的人工智能竞赛、让人工智能为人类服务的唯一途径。

跨党派的需求已经存在。基础设施已经在建设中。问题是,在人工智能重蹈社交媒体的覆辙之前,我们是否需要民主治理。

如果人工智能要重塑我们所有人的生活,我们人民应该决定如何重塑。这并不激进。这甚至不是一项政策提案。这就是自治。我们从未如此需要它。

Fortune.com 评论文章中表达的观点仅代表作者的观点,并不一定反映以下观点和信念: 财富。Fortune.

关于《我帮助建立了 Facebook,却发现它出了问题。人工智能正朝着同样的方向发展|财富》的评论

暂无评论

发表评论

摘要

社交媒体公司在利润动机的驱动下,通过诱导成瘾的策略来塑造用户行为。现在,人工智能(AI)在快速发展的过程中面临着类似的风险,可能会带来前所未有的好处或严重的负面后果,具体取决于它的治理方式。白宫最近提出建议让人工智能公司免于承担责任,但这种做法没有切中要害。相反,应该对人工智能进行公共控制,以确保其服务于社会利益。民意调查显示,民众强烈支持公民参与制定人工智能规则。“公共控制”的概念涉及公民集会,公民集会拥有真正的权力,可以为人工智能的发展设定具有约束力的目标和限制,确保民主监督并防止竞相部署具有潜在危险的技术。其他国家的现有先例表明了此类模式的有效性。由于人工智能有望创造大量财富,公共治理对于公平分配利益和解决失业问题至关重要。随着华盛顿朝相反的方向发展,对人工智能实施民主控制的窗口正在缩小。接受民主监督对于确保人工智能为人类服务而不是加剧社会分歧至关重要。