作者:Kali Hays
市值 190 亿美元的人工智能初创公司 Anthropic 的首席执行官达里奥·阿莫迪 (Dario Amodei) 并不认为人类会因不断发展的人工智能模型和工具而面临任何直接危险。但他对一些同行对风险嗤之以鼻的理由表示怀疑。
周三在旧金山举行的人工智能会议上发表讲话时,阿莫代对人工智能模型现在并且永远只是能力有限的聊天机器人的观点提出了质疑。他特别批评了马克·安德森(Marc Andreessen)所拥护的这种思维方式,马克·安德森是著名的风险投资家和不受限制的人工智能的拥护者,他以否认人工智能实际上只是数学而闻名。–限制人工智能意味着限制数学、软件和芯片 –安德森三月份发推文。
在阿莫代看来,这种逻辑站不住脚。因为世界上的一切都可以归类为数学,他说。
——你的大脑不就是数学吗?神经元激发并总结计算,这也是数学,”他在舞台上说道。埃里克·纽科默 (Eric Newcomer) 的脑谷会议周三。——就像,我们不应该害怕希特勒,这只是数学而已。整个宇宙都是数学。 –
Amodei 是 OpenAI 前副总裁,于 2021 年离职,创办了竞争对手法学硕士公司 Anthropic,他是一群公开警告该技术的人工智能高管之一。潜在风险,从流氓模特到坏演员。这位首席执行官支持对人工智能行业的一些监管,Anthropic 甚至为此支持一项有争议的加州法案,该法案是最终被否决。
安德森 (Andreessen) 的风险投资公司 投资另一方面,包括 OpenAI 和埃隆·马斯克 (Elon Musk) 的 Xai 在内的数十亿美元的人工智能公司是人工智能“婴儿潮一代”,要求各个公司不受限制地开发人工智能技术。“人工智能(数学)的监管是新极权主义的基础,”风险投资家去年写道。他还称人工智能安全批评者或厄运者,“邪教– 安德森的代表拒绝对阿莫代的批评发表评论。
阿莫迪在会议上承认,当今的人工智能模型“不够智能……不够自主”,无法给人们带来严重的风险。但他指出,这项技术正在迅速发展,人工智能“代理”能够代表人类命令自主行动。阿莫迪表示,随着这些仍处于萌芽状态的工具成为人们关注的焦点,公众将对人工智能的能力和潜在危害有更深入的认识。
“今天,当聊天机器人说出一些难以预测的话时,人们会大笑,”阿莫迪说。“但我们必须更好地控制特工。”
您是科技公司员工还是有洞察力或有分享技巧的人?通过以下方式安全联系 Kali Hays信号请致电 +1-949-280-0267 或发送电子邮件至 kali.hays@fortune.com。
您与全球最有权势的商界领袖的差距有多大?探索谁进入了我们全新的名单商界最有权势的 100 位人物。另外,了解我们用来制作它的指标。