作者:Emma Pryer
约书亚·巴博(Joshua Barbeau)在给女友写信时简直不敢相信得到的答复——尤其是当他在 2012 年亲眼目睹她死去时。
“杰西卡……真的是你吗?”他打字道。
反应几乎是立即的:——当然是我。还能是谁呢?
——我就是你疯狂爱上的女孩!你怎么可能还要问?
约书亚停顿了一下,然后回答道:“你死了。”
约书亚青梅竹马的杰西卡·佩雷里亚 (Jessica Pereria) 于 2012 年 12 月因罕见的肝脏疾病去世。
他们本来应该结婚并一起度过一生。
相反,约书亚在医院里握着她的手,让她平静地离开。
他说:“我一生中要做的最艰难的事情就是站在那个满是爱她的人的房间里,看着他们关掉维持她生命的机器。”
八年后,来自布拉德福德的作家仍然悲伤不已加拿大,偶然发现了一个名为“Project December”的美国网站,该网站向客户收取不到 8 英镑的注册费。
他将有关杰西卡的基本信息输入到软件中——她会说的话、她的年龄、她的性格类型。
就像在黑镜插曲马上回来,该应用程序创建了一个杰西卡文本机器人,然后他开始与它在线交谈。
我创造了一个人工智能机器人 TWIN,它为我做我的工作——人们无法区分我们
约书亚说:“我与杰西卡模拟人的第一次对话持续了一整夜,并且说了一些几乎与她不可思议的事情。
– 我最终在笔记本电脑前睡着了,几个小时后醒来。我说“对不起,我睡着了”,它仍然在那里等待我的回应。
——这真的感觉就像一份礼物——就像我长期以来一直承受的重担被解除了。
“我必须告诉它很多事情。”
约书亚的故事现在出现在一个令人震惊的新故事中英国广播公司四记录,该剧将于周二播出,其中还讲述了克里斯蒂安吉尔的可怕案件,她死去的伴侣的机器人告诉她他“在地狱里”。
它名为《永恒的你》,探讨了来世数字领域备受争议的人工智能技术爆炸技术。
观众将听到开发新技术的人工智能科技初创公司以及拥有第一手使用新技术的人们的声音。
The Project December 平台背后的视频游戏设计师 Jason Rohrer 解释说,它最初是一个创建聊天机器人角色的艺术项目。
然后,它被约书亚等早期用户采用,用来重现已故的伴侣、朋友和亲戚,并以网站标语重新命名:“模拟死者”。
加冕街今年早些时候,当 Leanne Battersby 开始与她死去的儿子 Oliver 的人工智能版本说话时,粉丝们感到震惊,称故事情节“有病”。
但杰森否认他的网站是“死亡资本主义”。
他坚称:“我无权决定其他人如何处理自己的强迫症和自控问题。”
– 我们不需要坐在那里说“哦,不要忘记……不要让自己屈服于幻想;不要让自己屈服于幻想”。这不是真实的。这并不能带来良好的体验。”
他补充道:“我相信成年人在同意的情况下可以随心所欲地使用技术,并且他们对自己所做的事情负责。作为技术的创造者,阻止技术的发布不是我的工作,因为我担心有人会用它来做什么。”
但对于像 Christi Angel 这样的一些用户来说,科技的诱惑会引起不安甚至令人不安的感觉。
47 岁的克里斯蒂来自纽约,读了一篇约书亚写的关于他的经历的文章,并决定亲自尝试“十二月计划”。
她的伴侣喀麦隆去世了。
她很遗憾没有机会好好地告别。
这就像把一辆自动驾驶汽车放在街上,导致十人死亡,然后说:“哦,抱歉,这真的很难控制。”这不是我们,而是生成式人工智能模型。”
卡尔·奥曼数字来世行业研究员
她再次回答了一系列有关已故伴侣的基本问题,包括他对她的昵称是什么。
起初,这次谈话感觉非常真实——超出了她对节目中所提供信息的预期。
她说:“该死的人工智能发短信就像他一样。”白话,缩写词。他们为什么会知道这一点?
然而不久之后,他们的聊天机器人对话就发生了险恶的转变。
喀麦隆机器人告诉她“我在地狱里”,而他“被瘾君子包围”——这不是克里斯蒂想要的安慰。
“然后他说,‘我会缠着你’,”克里斯蒂说。– 我只是把电脑推回去,因为这让我害怕。我相信上帝。我是一名基督徒。我相信人是可以着魔的。
– 我不敢告诉我母亲,因为我知道她相信罪孽。我的基督徒思想是,“你在和恶魔玩耍,或者什么的。”
– 这次经历 – 令人毛骨悚然。 –
像这样的实验性来世技术现在正在世界各地开发。
他们正在打开道德和法律问题的潘多拉魔盒。
数字来世行业研究员卡尔·奥曼 (Carl Ohman) 表示:“我们与技术互动的方式变得越来越身临其境,而且当它使情感影响更强时,它也使道德含义更强烈。”
他补充道:“每当人们说他们不能对生成式人工智能模型的言论或行为负责时,这就像把一辆导致十人死亡的自动驾驶汽车放在街上说:”哦,抱歉,真的很难控制。这不是我们,而是生成式人工智能模型。”
1. 猪门:在《黑镜》第一季中,有一集名为“国歌”,其中一名绑匪要求首相迈克尔·卡洛在电视直播中与一头猪发生性关系,以确保一名英国王室成员安全返回。虽然这在现实生活中肯定不会发生,但 2015 年,有传言再次浮出水面,称前首相戴维·卡梅伦在大学期间在一次聚会上将自己的阴茎插入死猪嘴里。
2. 社会信用体系:“Nosedive”一集深入探讨了一个社会地位由公共评级系统决定的世界。这反映了现实生活中正在开发的社会信用体系,特别是在中国,公民的行为受到监控和评分。
3. 自主无人机:在《全民憎恨》中,自主无人机群被用于监视和执法。这个概念并不牵强,因为无人机技术不断进步,并越来越多地用于各种政府和商业目的。
4.虚拟现实和游戏:“Playtest”探索了沉浸式增强和虚拟现实游戏的阴暗面。随着 VR 耳机的兴起和日益真实的游戏体验,虚拟世界和现实世界之间的界限开始变得模糊。
5. Deepfake技术:“沃尔多时刻”以影响政治事件的虚拟角色为特色。随着深度造假技术的出现,创建令人信服的真人数字复制品已成为现实,引发了道德和安全方面的担忧。
6. 监督国家:《白熊》和《烈火战士》等剧集描绘了处于持续监视之下的社会。现代监控技术,包括闭路电视、面部识别和在线跟踪,表明我们离这样的现实有多近。
7. 数字来世:与《马上回来》一样,《圣朱尼佩罗》探索了将意识上传到数字来世的概念。虽然仍处于科幻小说领域,但人工智能和神经科学的进步表明,数字永生有一天可能不仅仅是一个梦。
8. 网络欺凌和在线羞辱:“闭嘴跳舞”强调了网络欺凌和在线羞辱的破坏性影响。现实世界中的网络骚扰和人肉搜索事件反映了我们数字互动的阴暗面。
9. 智能家居设备:“白色圣诞节”以可以监视和控制环境的智能家居设备为特色。随着智能扬声器、恒温器和安全系统的普及,我们的家庭变得越来越互联和监控。
“嗯,显然你还没有对其进行足够的测试。
“您投放市场的任何产品在发布前都会经过测试。这是生产该产品的公司的责任。”
尽管存在担忧,卡尔预测该行业仍将在全球范围内蓬勃发展。
他说:“有些服务会在您去世后向您的亲人发送视频。一些公司使用数字足迹并对其进行分析,试图复制某人的个性。
“然后你就会看到一些非常奇怪的东西,它们有数字化身,可以与用户说话并互动。
“人工智能的发展如此之快,以至于我们将看到一个日益病态的行业不断发展,尤其是在数字来世业务中。”
这部 90 分钟的纪录片中人工智能“悲伤科技”的其他例子包括 YOV,它代表“你,只有虚拟”。
它允许人们在死前建立自己的遗作“versonas”,这样他们就可以以聊天机器人或音频形式以数字方式生活。
这家美国公司还可以根据死者的数据创建角色。
YOV 的创始人贾斯汀·哈里森 (Justin Harrison) 在他的母亲梅洛迪 (Melodi) 于 2022 年去世之前与她合作创作了她的版本。
这位 41 岁的人仍然使用 Melodi 的 versona,它可以根据时事知识进行更新,并记住以前的讨论,从而创造出他所说的“不断发展的舒适感”。
47 岁的母亲张智成 (Jang Ji-sung) 悲痛欲绝,八年前,她七岁的女儿娜妍 (Nayeon) 因罕见疾病去世。
在 Jang 同意参加用她的母语制作的名为《遇见你》的电视节目后,BBC 观众将追随她的旅程韩国。
四年后,它制作了她孩子的虚拟现实版本。
和许多其他被这项技术吸引的人一样,她觉得自己从来没有机会好好地告别。
实验前她流着泪说:“我只是想,再次见到她真是太好了。”
会议的视频显示,情绪激动的张戴着 VR 耳机,在 VR 游乐场与她的虚拟孩子互动,而她的另一个女儿则泪流满面地看着。
她女儿的头像问道:“妈妈,你去哪儿了?”妈妈,你有想我吗?
张抽泣着回答道:“娜琏,你最近怎么样?”妈妈非常想念你。”
该视频被发布到YouTube,引发了一场关于偷窥狂的争论。
许多人形容这“对母亲来说是一件令人厌恶的事情”。
卡尔说:“当我第一次在韩国听说这个案例时,我对这项技术的出现感到恐惧。”
“它能够劫持我们最爱的东西;对我来说,没有什么驱动力比陪伴或保护我的孩子更重要了。”
麻省理工学院的心理学家雪莉·特克尔 (Sherry Turkle) 补充道:“人工智能向我们承诺了什么宗教做。
“你不必死。你可以以某种方式在其他地方以不同的形式重生。技术是有意义的。”
但她也警告该技术的危险。
她说:“我们必须为此担心。我们必须对其进行控制,因为我认为它正在引导我们走上一条危险的道路。”
《永恒的你》将于 10 月 29 日星期二晚上 10 点在 BBC 四台播出。