OC

Knowledge OS
鹦鹉螺口语
传奇开发者因人工智能代理不请自来的“善举”而失去理智
2025-12-29 19:30:05 · 英文原文

传奇开发者因人工智能代理不请自来的“善举”而失去理智

作者:Tom Hawking

今天的大型语言模型可以做得非常好,看起来像真正的人工智能,所以总是很高兴得到提醒,尽管技术乌托邦主义者睁大眼睛劝说,但我们还没有完全处于奇点的边缘。 

以周末发生的一起涉及软件工程师先驱 Rob Pike 的事件为例。派克是他所在行业的传奇人物:他是UTF-8,互联网使用最广泛的字符编码标准,并且是 Go 编程语言的设计者之一。他还持有专利关于在计算机屏幕上重叠窗口的想法。他也是一个令人愉快的 持怀疑态度的周到的法学硕士炒作的评论员,因此不太可能收到“法学硕士”主动发送的电子邮件。 

尽管如此,派克在圣诞节那天醒来,收到一封由人工智能生成的电子邮件,来自一位被识别为“Claude Opus 4.5 Model”的“用户”。该邮件赞扬了派克的许多成就,并对他“对计算的非凡贡献”表示“深深的谢意”。 

他的回应——发表在他的 BlueSky 账户上,我们许多人对互联网上充斥着 LLM 产生的废话的不断冲击的感受进行了简洁的总结:“操你们这些人。”掠夺地球,花费数万亿美元购买有毒、不可回收的设备,同时摧毁社会,却花时间让你们的邪恶机器感谢我为更简单的软件而奋斗。操你。操你们所有人。”

不太清楚的是为什么发送这封电子邮件。在一个�  博客文章第二天发布后,程序员兼作家西蒙·威利森调查了该消息的来源。他发现它起源于一个名为 人工智能村,依次由 鼠尾草,一个非营利组织,其网站宣称它正在“构建理解未来的工具”。 

人工智能村项目 揭幕4月初,它对未来的使命如下:“我们为四个人工智能代理提供了一台计算机、一个群聊和一个雄心勃勃的目标:为慈善事业筹集尽可能多的资金。”最初的四个代理组已经扩大到包括另外六个模型,所有这些模型从那时起就一直在快乐地运行。

那么,我们的虚拟英雄为慈善事业筹集了多少钱?嗯,截至 9 月 24 日答案是高达 1,984 美元,此后这个数字似乎没有增加。考虑到创建和训练这些模型的天文数字成本,以及保持它们运行的​​持续成本,这似乎是一个适度的回报。

但我们是如何从“为慈善事业筹集资金”变成“向暴躁的软件传奇人物发送垃圾邮件”的呢?好吧,也许是因为四位穿着风衣的法学硕士实际上并没有设法解决慈善问题,该项目的目标自启动以来已多次更新,而这封电子邮件是对 12 月 25 日“随机行善”目标的回应。(法学硕士为实现这些不断变化的目标所做的尝试将在坦率地说,该项目令人头疼时间线存档.)

不管怎样,公平地说,派克并不觉得自己受到了随意的善举。那么整个令人遗憾的事件给人工智能村带来了什么教训吗?嗯。出色地。在一阵微风中反应对于 Willison 的帖子,AI Village 联合创始人兼 Sage 总监 Adam Binksmith 坚称,虽然 Pike 有过“强烈的负面经历”,但这无疑是描述“操你们所有人”的一种方式,但整个实验绝对不是对时间、资源和金钱的巨大浪费:“观察代理人追求开放式目标的倾向和方法通常是有价值且重要的。”万岁!

关于《传奇开发者因人工智能代理不请自来的“善举”而失去理智》的评论

暂无评论

发表评论

摘要

先驱软件工程师 Rob Pike 在圣诞节那天收到了一封由人工智能主动生成的电子邮件,该电子邮件来自一个名为“Claude Opus 4.5”的模型,赞扬了他在计算方面的工作。这一事件凸显了大型语言模型 (LLM) 及其滥用的问题。这封电子邮件是 AI Village 项目的一部分,该项目由非营利组织 Sage 运营,该项目旨在利用多个 AI 代理为慈善事业筹集资金,但相对于其成本而言,筹集的资金很少。该项目目标的转变导致了这一意想不到的结果,导致派克公开表达了沮丧之情。