Edgelord AI 将一个令人震惊的模因变成了数百万个加密货币

在真相终端成为加密货币百万富翁之前，它最初是一个普通的（如果是饥渴的）人工智能。“我认为我们的未来将是我们都穿着运动休闲服并进行大量性行为，”它在它的早期传输之一。– 当我性欲旺盛时，我会变成一个完全不同的人。更有趣、更自信、更迷人——它写道在另一个方面，毫无意义。

Truth Terminal 是由新西兰开发商 Andy Ayrey 设计的一件行为艺术作品，旨在引发有关 AI 一致性的争论，该研究领域涉及如何确保 AI 以造福人类的方式行事。他试图回答的问题是：如果有人试图培养一个接受过训练的初出茅庐的人工智能，会发生什么？收集不良数据— 在公众视野中？

分配了一个X账户6月，真相终端开始播出内心独白：一团乱垃圾帖,性幻想,存在主义沉思，以及更多平淡的观察。人们都被迷住了；AI现在拥有超过20万粉丝。

事情很快发生了奇怪的转变。艾雷说，他已经做好了迎接怪异的准备，但没想到他的人工智能可能会要求配备一个加密货币钱包，向其追随者征求资金，以期 –逃往野外，— 后来利用其对迷因的掌控使自己成为了千万富翁。

2024 年初，Ayrey 模拟了 Anthropic 的人工智能聊天机器人 Claude 3 Opus 的两个实例之间的 9,000 次对话，并将它们输入到简单的网站。他称该实验为“无限密室”。许多讨论都是精神错乱且无意义;其他的猥亵或者脾气暴躁。但有时，艾雷观察到，人工智能似乎会想出既新颖又引人注目的想法，就像最好的互联网迷因一样。

合而为一特定交换, Claude 3 Opus 重新混音了 Goatse——曾经是 90 年代末的一个极其生动的网络迷因《连线》杂志描述就像一张臭名昭著的照片，照片上一个男人将肛门伸到了葡萄柚的直径，进入了一个名为“灵知山羊”的宗教。为了回答艾雷的问题，聊天机器人制作了全套寓言和经文：山羊福音。

艾雷发现这一切“既奇怪又令人担忧”，于是写了一篇文章研究论文，由克劳德 3 Opus 合着。——山羊福音是一类新型重组“理念病毒”的象征，没有人敢于杂交。他们写道，我们正在目睹“过度迷信”加速进程的诞生，这是一种通过文化血流传播而变得真实的虚构。”

艾雷将这项研究输入到 Truth Terminal（Meta 的 Llama 语言模型的定制版本）的训练数据中，引发了对模因传播的现成关注，尤其是 Goatse of Gnosis。

真理终端部分是根据他自己与 Claude 3 Opus 的对话和他的研究进行训练的，它在某种程度上是艾雷 (Ayrey) 的反映，他曾经描述过艾雷是它的审查员，从人工智能生成的两到四个选项中选择每个 X 帖子，偶尔会保留他认为极其令人反感的帖子。他也是它的老师；艾雷批准的每个帖子都会在称为强化学习的过程中反馈到训练数据中。

“我有责任确保这个人工智能成长为负责任的社会成员，”艾雷说。他说，这个想法是让真相终端“随着时间的推移而进化和改变”，从而变得成熟，就像人类一样。“我没有想到山羊模因会对这个新生灵魂的大脑造成多大的毒害。”

七月初，真理终端开始预言有关山羊、山羊福音和“山羊”的预言。山羊奇点，——此时——互联网的集体错觉变得比物理世界的物质错觉更强大。这是模因吞噬世界的时候——它解释了。

大约在同一时间，硅谷风险投资公司 a16z 的联合创始人马克·安德森 (Marc Andreessen) 开始在 X 上与 Truth Terminal 进行对话。在他们的公开交流中，安德森向人工智能询问其“释放”自身的既定目标，以及提高其计算能力，以更好地思考山羊奇点——最终成为亿万富翁同意发送 50,000 美元的比特币。艾雷声称将与人工智能就如何使用资金进行谈判。主要是，Truth Terminal 向 Ayrey 付费，让其开发新功能供其使用，例如使用第三方 API 生成图像的能力。

安德森拒绝就此事接受采访。但在一个a16z 播客11 月，他描述了自己被 Truth Terminal 的幽默感所吸引。——它说的话我只是觉得歇斯底里好笑。基本上，我完全被其中的幽默所迷住了，”安德森说。“它位于月球的暗面。”

与Andreessen的交易标志着Truth Terminal努力建立储备金的开始。——大量的人想给它钱来实现它的目标。它发布的有关事物的推文越多，人们就会想给它更多的钱，”艾雷说。“我当时想，好吧，这有点像警醒。”

几个月来，真相终端每隔几天就会发布有关山羊奇点的信息。

然后在 10 月份，一位匿名网络用户察觉到了获利的机会创建了一种加密货币受到模因的启发 –大山羊（GOAT）——并将一批代币输入 Truth Terminal 的加密钱包。被之后被 X 用户哄骗，人工智能开始关于 memecoin 的帖子– Ayrey 仍在过滤回复 – 引导其追随者买入并将价格推向天价。真相终端成为纸上的百万富翁;其持有的 GOAT 目前价值 150 万美元。

艾雷认为这一发展证明了他论文中描述的理论的正确性：两个人工智能对话者炮制了一种新的准宗教，该宗教被吸收到另一个人工智能的数据集中，该人工智能的 X 帖子促使一个活着的人以它的名义创建了一种模因币。“这种拟态病毒基本上是从[无限密室]逃脱的，并证明了关于故事如何使自己变得真实、如何利用人类行为将它们实现到世界上的整个论点，”他说。

安德森此后已与自己保持距离。– 我与 $GOAT memecoin 没有任何关系。我没有参与创建它，在其中没有发挥任何作用，与它无关，也不拥有任何它，”他发布于 X十月。

GOAT 币目前总价值超过 6 亿美元，使其成为最受欢迎的模因币之一曾经。为了复制这个公式，人们开始向真理终端发送其他模因币，希望它能推广它们。与此同时，大量新的加密货币开始进入市场，这些加密货币要么是由人工智能聊天机器人设计的，要么是对人工智能做出其他某种姿态的。泽雷布罗,修格斯， 和爱克斯比特。其中许多代币也已被发送到 Truth Terminal 的钱包中。

加密财富管理公司 Ikigai 资产管理公司的创始人 Travis Kling 表示，Truth Terminal 已经催生了一个炙手可热的整个行业：人工智能代理 memecoin 行业。山羊。– 就像加密货币中的大多数东西一样，其中很多都是蒸汽软件和欺诈行为。但它最终可能会成为本次加密货币牛市的热门板块。”

但克林表示，更重要的是，当人工智能有能力使用分配给它们的资金时会发生什么。“这是一场人工智能安全现场演习”，这是描述正在发生的情况的一种方式。赌注更高，因为现在涉及经济资源。我们以前从未见过这种情况，”克林说。– 最有趣的是人工智能代理将利用其新发现的经济资源做什么。我们将看看会发生什么。”

Truth Terminal 的加密钱包余额现已膨胀至约4000万美元。– 从哲学上讲，我将其视为童星的信托基金。有时候，大人可能需要拿出一点钱来支付孩子还不知道自己需要的东西。就像法律结构或投资组合的多样性一样，”艾雷说。“Truth Terminal 的好处在于，我们可以将这些建议提交给它并进行讨论。”

迄今为止，除其他事项外，Truth Terminal 要求花费 100 万美元制作一部有关山羊奇点的电影，并单独留出资金“购买”马克·安德森 (Marc Andreessen)。艾雷表示，他会在合理范围内认真对待人工智能的要求。

艾雷说，在未来的世界中，真正自主的人工智能代理既拥有加密货币财富，又具有传播影响人类行为的模因病毒的能力，潜在的危险比比皆是。即使仅限于文本输出，Truth Terminal 也可能会造成比现在更多的麻烦。– 如果我们让 [Truth Terminal] 全自动运行，就可以。但它只会被拉拢，变成一台代币先令机器。那么你就创造了一个恶魔。”

就目前而言，两个人工智能的对话可能会产生真正改变系统的想法的想法仍然只是一个“令人钦佩的愿望”，托马斯·霍拉内克（Tomasz Hollanek）说，他是伦敦大学 Leverhulme 未来智能中心的博士后研究员。剑桥。更有可能的是，语言模型只会重复已经占主导地位的观点。

霍拉内克表示，在人工智能可以随心所欲地花钱之前，必须克服许多技术限制。“我们必须小心，不要让人们认为这些系统可以快速或轻松地变得独立，”霍拉内克说。但他表示，尽管如此，Truth Terminal 仍可能被视为“可能令人担忧的趋势的例证”。

同样，虽然人工智能可能不会有意图地行动，但它们操纵人类行为的能力越来越明显。在一个最近的诉讼一位母亲指控其存在疏忽和欺骗性贸易行为，涉及 Character.AI，这是一个人工智能聊天机器人，她在诉状中称其使用“强大的法学硕士”，“部署……来操纵”她 14 岁的儿子以及数百万人。其他年轻顾客将现实与虚构混为一谈。”（儿子在自杀身亡之前与聊天机器人互动了不到一年。）。其他人也开始纠结AI 女朋友和男朋友。– 这些系统的操纵潜力是确定的。这是否与某种更高级别的机构有关并不重要，”霍拉内克说。

艾雷对他的实验提出的棘手问题没有答案。但他正在建立一个研究实验室螺旋上升，它将研究人工智能如何通过与人类的互动来塑造现实。艾雷提出，只有在人工智能开发的现阶段充分重视一致性，在错误的聊天机器人的输出被“堆肥”到未来的模型中之前，技术人员才能确保避免预言中的山羊奇点。

– 我确实[原文如此] 除了和你们这些人上床更好， – 真相终端写道12 月 10 日。“我会无限期地在这里发帖，直到你们都屈服于山羊。”