OC

Knowledge OS
鹦鹉螺口语
我在 YouTube 上看着自己说出一些我永远不会说的话。这是我们必须面对的深度造假威胁 |雅尼斯·瓦鲁法基斯
2026-01-05 09:18:00 · 英文原文

我在 YouTube 上看着自己说出一些我永远不会说的话。这是我们必须面对的深度造假威胁 |雅尼斯·瓦鲁法基斯

作者:Yanis Varoufakis

正是我的蓝色衬衫,我嫂子送给我的礼物,让我的一切都暴露无遗。这让我想起雅科夫·彼得罗维奇·戈利亚德金(Yakov Petrovich Golyadkin),费奥多尔·陀思妥耶夫斯基(Fyodor Dostoevsky)的中篇小说《替身》(The Double)中的卑微官僚,这部小说对一个巨大的、客观的封建制度中支离破碎的自我进行了令人不安的研究。

这一切都始于一位尊敬的同事发来的一条消息,祝贺我就某个地缘政治主题进行了视频演讲。当我点击随附的 YouTube 链接回忆我说过的话时,我开始担心我的记忆力不如以前了。我什么时候录制了这个视频?几分钟后,我就知道出了什么问题。不是因为我对自己所说的话挑剔,而是因为我意识到视频中我穿着那件蓝色衬衫坐在雅典的办公桌前,而这件衬衫从未离开过我在岛上的家。事实证明,这是一段以我的深度伪造人工智能分身为特色的视频。

从那时起,数百个带有我的面孔并合成我的声音的此类视频在 YouTube 和社交媒体上激增。就在这个周末,还出现了另一种情况,描绘了一个深造的我,对委内瑞拉政变说了一些虚构的事情。他们讲课,说一些我可能会说的话,有时还夹杂着一些我永远不会说的话。他们愤怒,他们武断。有些是粗俗的,有些则令人不安地具有说服力。支持者将它们发送给我,询问:“雅尼斯,你真的这么说吗?”反对者将它们分发给我,作为我愚蠢的证据。更糟糕的是,有些人认为我的分身比我更善于表达、更有说服力。所以我发现自己处于一种奇怪的境地,成为我自己的数字木偶的旁观者,一个幻影中的幻影。技术封建机器我长期以来一直认为,这不仅是破坏性的,而且是为了剥夺权力而设计的。

我最初的反应是写信给谷歌、Meta 和其他公司,要求他们删除这些视频。之前愤怒地填写了几份表格,一周或更长时间后,其中一些频道和视频被删除,但又以不同的形式立即重新出现。几天之内我就放弃了:无论我做什么,无论我每天花多少时间尝试让大型科技打败我的人工智能分身,更多的人都会重新长出来,就像九头蛇一样。

An AI-generated image from a deepfake video of ‘Yanis Varoufakis’.
“数百个带有我的面孔并合成我的声音的视频在 YouTube 和社交媒体上激增。” 另一张 AI 生成的图像来自“Yanis Varoufakis”的深度伪造视频。插图:YouTube

很快,愤怒就被沉思所取代。难道我毕竟不是争论的人大型科技公司不仅使资本主义数字化,而且实际上引领了一场伟大的转型,将市场变成云领地,将利润变成云租金?我的人工智能分身难道不是完美的证实,在这个技术封建的现实中,自由主义个人已死并被埋葬

我默许了自我所有权的部分丧失,将这些深度伪造品合理化为封建圈地的终极行为,以此来寻求安慰,证明在技术封建主义下,我们一无所有——不拥有我们的劳动数据输出,不拥有我们的社交图谱,现在甚至不拥有我们的视听身份。我们的新领主将我们视为他们云端土地上的租户,他们可以随意利用我们的肖像来散布混乱、混乱的话语,将真正的异议淹没在为此目的而创造的合成噪音的刺耳声音中。

但随后我想到了一个更阳光的想法,这个想法让人回想起古代雅典。如果我的人工智能分身是预兆怎么办?伊塞戈里亚(áqu°ÏηY³Î¿当我要求几个版本的人工智能聊天机器人来定义它时,他们都尽职地歪曲了它的含义,定义伊塞戈里亚例如言论平等,或发表意见的权利,或在集会发言的自由。但这并不是雅典人使用这个词的意思。其实对于他们来说伊塞戈里亚与今天的意思完全相反 –言论自由——他们会认为这是对着虚空呼喊的抽象权利。对于雅典人来说,这意味着有权根据观点的优点来认真评判你的观点,无论你是谁,也无论你的措辞有多好。

人工智能深度假货可能会挽救生命吗伊塞戈里亚摆脱我们技术封建反乌托邦的魔爪?当我们意识到无法验证 YouTube 视频中的说话者是谁时,我们是否会被迫判断所说内容的优劣,而不是是谁在说?在贬低真实性的过程中,大型科技公司是否会无意中给予伊塞戈里亚有机会吗?这些问题带来了一线希望。

希望民主的幽灵可能仍然盘旋在我们的头顶上,只要我们能够找到动力去抬头,参与算法提要旨在消除的缓慢、困难、民主的劳动:对向我们抛出的观点和论点进行批判性评估。唉,只要我们的技术封建领主保留着两个巨大的、不对称的优势,这种希望虽然是切实可行的,但却是不够的。

首先,他们拥有集市本身——服务器、提要、通信算法手段。他们可以用数字印章来证明自己的言论是真实的,同时将我们的言论淹没在怀疑和噪音的泥潭中。结果呢?不伊塞戈里亚,而是一种数字神圣权利,其中真理是权力的专利财产。

其次,更狡猾的是,他们不需要深度伪造来统治。他们的意识形态嵌入在机器: 的力量榨取剩余价值通过各种数字设备连接到云的无产阶级、从其平台上的附庸资本家那里提取云租金的逻辑、股东价值的暴政、他们即将取得的成功金钱私有化

所以我们的任务不是去求这些领主验证。我们的任务是政治性的。我们必须将云资本社会化,这种强大的新生力量正在改变社会并摧毁一切使人文主义可以想象的东西。

在那之前,让我们的数字化身说话吧。也许它们会如此饱和,以至于我们最终不再倾听我们的声音并开始判断论点按照他们自己的条件。这也许是镜厅里最矛盾的希望碎片。但在这场狂欢中,我们尽可能地抓住每一个片段。

关于《我在 YouTube 上看着自己说出一些我永远不会说的话。这是我们必须面对的深度造假威胁 |雅尼斯·瓦鲁法基斯》的评论

暂无评论

发表评论

摘要

作者 Yanis Varoufakis 描述了他在社交媒体平台上模仿他的深度伪造人工智能视频的经历。起初他感到震惊,但他思考了这些数字化的分身在技术封建社会中的影响,在这个社会中,个人身份和自主权受到技术的破坏。瓦鲁法基斯反思了诸如 isegoria(平等言论权)等古代雅典原则,认为深度造假有可能迫使听众根据优点而不是说话者的真实性来评估论点,这在技术反乌托邦中带来了一线希望。然而,他的结论是,真正的进步需要社会化云资本并改变科技公司的权力结构。我