OC

Knowledge OS
鹦鹉螺口语
克劳德神话是每个人的问题
2026-04-09 17:22:00 · 英文原文

克劳德神话是每个人的问题

作者:Matteo Wong

当人工智能可以破解一切时会发生什么?

A GIF of locks on top of the globe.
插图由马泰奥·朱塞佩·帕尼 / 大西洋月刊

Anthropic 表示,在过去的几周里,它秘密拥有一种可能能够控制世界上大多数计算机服务器的工具。这是一个机器人,如果被释放,可能能够侵入银行、窃取国家机密并破坏关键基础设施。据该公司称,这种人工智能模型已经识别出数千个主要网络安全漏洞,包括每个主要操作系统和浏览器中的漏洞。这种级别的网络攻击通常只适用于极少数国家(包括中国、俄罗斯和美国)的精英、国家资助的黑客组织。现在它掌握在一家私人公司手中。

周二,该公司正式宣布该模型的存在,称为克劳德神话预览。目前,该机器人仅适用于由许多世界上最大的科技公司组成的联盟,包括苹果、微软、谷歌和英伟达。这些合作伙伴可以使用 Mythos Preview 扫描并保护其软件中的错误和漏洞。除此之外,Anthropic 不会立即向公众发布 Mythos 预览版,因为它认为在没有更强有力的保障措施的情况下这样做会太危险。

多年来,网络安全专家一直在警告高能力的黑客机器人可能会带来的混乱。由于人工智能模型在编码方面的能力越来越强,它们也变得非常擅长发现各种软件中的漏洞。甚至在 Mythos Preview 之前,Anthropic、OpenAI 和 Google 等人工智能公司都报告了其人工智能模型被犯罪组织和国家支持的组织用于复杂网络攻击的实例。正如乔瓦尼·维尼亚 (Giovanni Vigna) 告诉我的那样,他是一家致力于人工智能策划的网络威胁的联邦研究机构的负责人最后法ll:只需按一下按钮,您就可以让一百万黑客触手可及。”

尽管如此,神话预览似乎并不代表增量变化,而是范式转变的开始。直到最近,人工智能辅助黑客攻击的最大优势并不是独创性本身,而是速度和规模。这些机器人可能与许多人类网络安全专家一样出色,但不一定更好——相反,拥有一支由 100 万不知疲倦的虚拟黑客组成的军队可以让您对比以往更多的目标发起更多攻击。甚至 Anthropic 也报告称,其当前最先进的公共模型 Claude Opus 4.6能力明显较差自主发现网络漏洞。但神话预览不同。据 Anthropic 称,该机器人已经能够发现数千个未被发现的软件错误,有时甚至长达数十年,其攻击的复杂性和速度以前被许多人认为是不可能的。该模型在世界上最安全的操作系统之一中发现了近 30 年的漏洞。人类学家萨姆·鲍曼 (Sam Bowman) 在 X 上发帖称,他正在公园里吃三明治,当时他收到一封来自 Mythos 的电子邮件预览:该机器人已突破公司内部沙箱并获得了互联网访问权限。

Mythos Preview 的确切功能很难判断,因为 Anthropic 尚未发布该模型。识别漏洞与能够在未被发现的情况下利用漏洞并不相同,就像强盗可以拥有银行钥匙但仍然需要处理安全摄像头一样。Anthropic 肯定会从其不透明的声明中受益:该公司可以声称已经开发了一种超先进的模型,同时似乎也通过防止最坏情况的网络安全场景来采取负责任的行动。事实上,不发布 Mythos Preview 的决定支持了 Anthropic 的发展自我形象作为人工智能行业的好人。(Anthropic 没有立即回复有关 Mythos Preview 的电子邮件问题。)

当然,此举可以既是战略性的,又是认真的。如果 Anthropic 分享的内容有一点准确,它预示着一个令人不安的未来。Anthropic 拥有一种工具,“可能会损害地球上每个国家关键基础设施和政府服务的运行”,特朗普政府前人工智能顾问 Dean Ball 说。写道这周。防御此类网络攻击的能力是社会基本运作不可或缺的一部分。发动此类攻击的能力是现代战争不可或缺的一部分。人择可能刚刚扩大规模,成为一股主要的地缘政治力量。

也许比 Mythos Preview 报道的功能更令人担忧的是其他公司也不甘落后。OpenAI 是据报道准备向选定的一组公司发布自己的同样强大的模型。很有可能,甚至很有可能,谷歌 DeepMind、xAI 和中国的人工智能公司将成为下一个。他们将有多谨慎尚不清楚。即使是来自小公司的更便宜或开源的人工智能模型也可能很快就能实现这种黑客攻击,这将动摇支撑现代互联网的基本安全和隐私。

黑客机器人并不是少数人工智能公司获得巨大影响力的唯一领域。该技术对于军事行动已变得至关重要。尽管五角大楼已经参与了一项公仇据报道,克劳德与 Anthropic 一起参与了对伊朗的轰炸,在此之前还参与了 1 月份对委内瑞拉的袭击。上个月,国防部与 OpenAI 签署了一份合同很可能允许政府使用该公司的人工智能系统对美国公民进行前所未有的监视。(OpenAI 坚称五角大楼同意不将其产品用于国内监控。)与此同时,OpenAI、Anthropic、Google DeepMind 等公司的机器人正在成为基础设施:几乎被世界上所有最大的企业、学校、医疗保健系统和公共机构所使用。这也是伊朗不战而屈人之兵的很大一部分原因击中或威胁罢工亚马逊和 OpenAI 位于中东的数据中心——这些设施是具有高影响力的目标,与伊朗也瞄准的油田不相上下。与此同时,大量资金涌入人工智能热潮,以至于这些公司在功能上都处于困境。劫持全球经济

换句话说,人工智能公司正在重塑世界。想想埃隆·马斯克的星链卫星网络如何让他能够反复地 倾斜天平俄罗斯入侵乌克兰。生成式人工智能提供了更多可能性。这些公司能够或很快就有能力发起重大网络攻击、进行大规模监视、影响军事行动、引起金融和劳动力市场的巨大波动以及重新调整全球供应链。从理论上讲,除了它们自己的道德和投资者之外,没有任何东西可以统治这些公司。他们正在发展颠覆国家和经济的力量。这些就是人工智能的超能力。

关于《克劳德神话是每个人的问题》的评论

暂无评论

发表评论

摘要

Anthropic 秘密开发了 Claude Mythos Preview,这是一种人工智能模型,能够识别所有主要操作系统和浏览器中的主要网络安全漏洞。出于安全考虑,该公司暂时限制了对科技巨头联盟的访问,并承认这种能力可能会引发前所未有的网络攻击,而这些攻击以前仅限于国家资助的精英黑客组织。这标志着人工智能辅助黑客攻击潜力的重大范式转变,引发了严重的地缘政治和安全影响,因为 OpenAI 等其他公司预计也会效仿,推出类似的强大模型。