Anthropic首席执行官在一篇长达15000字的颂歌中完全变成了技术乐观主义者 | TechCrunch

Anthropic首席执行官Dario Amodei想让你知道他不是一个AI“悲观主义者”。

至少，这是我对于那篇大约15000字的“甩麦文”的理解。散文阿莫代伊在上周五晚些时候发布了他的博客文章。（我试着询问Anthropic的Claude聊天机器人它是否同意，但遗憾的是，这篇文章超出了免费计划的长度限制。）

总体而言，阿莫代描绘了一个所有人工智能风险都被化解、技术带来前所未有的繁荣、社会进步和丰裕的世界。他坚称这并不是为了忽视人工智能的负面影响——在文章一开始，他就批评了一些没有点名的人工智能公司夸大其技术能力并进行一般性的宣传。但有人可能会认为，这篇文章偏向于技术乌托邦主义的方向过于明显，做出了缺乏事实支持的断言。

阿莫德伊认为，“强大的人工智能”可能最早在2026年出现。_by 强大的人工智能指的是在生物学和工程学等领域“比诺贝尔奖得主更聪明”的AI，能够完成证明未解数学定理、撰写“极好的小说”等任务。阿莫德伊表示，这种AI将能够控制任何可想象的软件或硬件，包括工业机械，并且基本上可以胜任当今大多数人类的工作——而且做得更好。

“该AI能够从事任何行动、通信或远程操作……包括在网络上的行为，向人类发出指令或提供指导，订购材料，指挥实验，观看视频，制作视频等等，”阿莫德写道。“它没有实体存在（除了存在于计算机屏幕上），但它可以通过计算机控制现有的物理工具、机器人或实验室设备；理论上，它甚至可以为自己设计机器人或设备。”

很多事情需要发生才能达到那个阶段。

即使是今天最优秀的AI也无法“思考我们理解的是，“模型不是通过推理来工作，而是复制它们在训练数据中观察到的模式。”

假设为了支持阿莫德伊的论点，人工智能行业很快“解决了”类似人类的思维问题，那么机器人技术能否跟上步伐，以允许未来的AI进行实验室实验、制造自己的工具等？当今机器人的脆弱性表明这很难实现。

阿莫代伊却是乐观的——非常乐观。

他认为，在未来7到12年内，人工智能有可能帮助治疗几乎所有传染病，消除大多数癌症，治愈遗传性疾病，并在最早期阶段阻止阿尔茨海默病的发生。阿莫德伊认为，在接下来的5到10年内，像创伤后应激障碍（PTSD）、抑郁症、精神分裂症和成瘾等疾病将通过人工智能合成的药物或胚胎筛查进行基因预防而被治愈。有争议的观点）——并且将存在由人工智能开发的药物，这些药物能够“调节认知功能和情绪状态”，以“使我们的大脑表现得更好一些，并拥有更加充实的日复一日的生活体验。”

如果这种情况发生，Amodei预计平均人类寿命将会翻倍达到150岁。

“我的基本预测是，由人工智能驱动的生物学和医学将使我们能够在5到10年内实现人类生物学家在未来50至100年内的所有进步。”他写道。“我将这称为‘压缩的21世纪’：即在强大的人工智能开发出来之后，我们将用几年时间完成整个21世纪本应取得的所有生物学和医学上的进步。”

这些似乎也有些夸大，考虑到人工智能尚未彻底改变医学——而且可能在很长一段时间内都不会，甚至永远也不会。即使人工智能确实减少将药物推向临床前试验所涉及的劳动和成本，它可能在后期阶段失败，就像人类设计的药物一样。考虑到今天部署在医疗保健领域的AI已经被证明是有偏见和风险的从许多方面来看，在现有的临床和实验室环境中实施这些方法是非常困难的。认为这些问题以及更多问题在大约十年内就能得到解决，嗯，这听起来有点不切实际。

但阿莫德没有到此为止。

他认为，人工智能可以解决世界饥饿问题，可以在应对气候变化方面扭转局势，并且能够改变大多数发展中国家的经济；阿莫迪相信，人工智能可以在5到10年内将撒哈拉以南非洲的人均GDP（2022年为1701美元）提升至中国的水平（2022年为12720美元）。

这些是大胆的声明，尽管对于任何听过“奇点”运动追随者的人来说可能并不陌生。值得阿莫德伊称赞的是，他承认这样的发展将需要“全球卫生、慈善和政治倡导方面的巨大努力”，他认为这将会发生，因为这是世界最佳经济利益所在。

如果真是那样，那将是一个人类行为的巨大变化，因为人们一次又一次地表明他们主要关心的是短期内对自己有利的事。森林砍伐这只是成千上万个例子中的一个。值得注意的是，其中许多负责标注数据集的工作人员用于训练AI的数据标注人员所得报酬远远低于最低工资标准，而他们的雇主却赚取数百万——或数百亿从中获得的资金。

阿莫迪简要地谈到了人工智能对文明社会的危险，提议一个民主联盟确保人工智能供应链的安全，并阻止那些意图将人工智能用于有害目的的对手获得强大人工智能生产所需的手段（半导体等）。同时，他建议在正确的人手中，人工智能可以被用来“削弱压迫性政府”甚至减少法律系统中的偏见。（人工智能历史上加剧的偏见（在法律体系中。）

“一个真正成熟和成功的AI实施有可能减少偏见，并对每个人更加公平，”阿莫德伊写道。

所以，如果人工智能接管所有可想象的工作，并且做得更好更快，这不会从经济上使人类陷入困境吗？阿莫德承认确实会这样，并且到那时，社会将不得不讨论“经济应该如何组织”。

但他没有提出任何解决方案。

“人们确实希望有一种成就感，甚至是一种竞争感，在后人工智能世界里，花几年时间尝试一些非常困难的任务并制定复杂的策略是完全可能的，这类似于当今人们从事研究项目、努力成为好莱坞演员或创办公司的行为。”他写道。“（a）某个地方的人工智能原则上可以更好地完成这项任务，以及（b）这项任务不再是全球经济中得到经济回报的一部分，这些在我看来似乎并不重要。”

阿莫迪在总结时提出，人工智能只是一个技术加速器——人类自然趋向于“法治、民主和启蒙价值观”。但这样做忽略了人工智能带来的许多成本。人工智能是预计将会拥有—已经对环境产生了巨大的影响。并且它正在加剧不平等。诺贝尔经济学奖得主约瑟夫·斯蒂格利茨等人指出注明由人工智能导致的劳工中断可能会进一步将财富集中到公司手中，使工人比以往任何时候都更加无力。

这些公司包括Anthropic，尽管Amodei不情愿承认这一点。毕竟，Anthropic是一家企业——一家公司。据报道价值近400亿美元。而从其人工智能技术中受益的主要是那些唯一的责任是提升股东回报、而不是改善人类福祉的大公司。

一个愤世嫉俗的人可能会质疑这篇文章的发布时间，事实上，据说Anthropic正在筹集数十亿美元的风险资金。OpenAI首席执行官Sam Altman也发表了一篇类似的文章技术乐观主义宣言在OpenAI完成一轮65亿美元融资前不久。也许这只是一种巧合。

再说，阿莫德不是一个慈善家。和其他首席执行官一样，他有一个产品要推销。只是他的产品正好是“拯救世界”的——而那些不这么认为的人可能会被落在后面。至少他是希望你这样相信的。