宁静曲
秘鲁的一个想象中的城镇是北京的埃菲尔铁塔:旅行者越来越多地使用诸如Chatgpt等工具进行行程思想,并被送往不存在的目的地。
Miguel Angel Gongora Meza,创始人兼董事Evolution Treks秘鲁,在秘鲁一个乡村的城镇中,当他听到一个好奇的谈话时,准备穿越安第斯山脉的跋涉。两名无人陪伴的游客友好地谈论他们的计划独自在山上远足到“神圣的峡谷”。
“他们(向我展示了我的屏幕截图,自信地写着,充满生动的形容词,但这不是真的。没有神圣的峡谷!”Gongora Meza说。“这个名字是两个与描述无关的地方的组合。游客支付了将近160美元(118英镑),以便到达Mollepata周围的乡村道路,而没有向导或[目的地]。”
更重要的是,贡多拉·梅扎(Gongora Meza)坚持认为,这个看似无辜的错误可能使这些旅行者丧生。他解释说:“这种错误信息在秘鲁是危险的。”“必须计划高程,气候变化和[[]路径的可及性。
在短短的几年中,人工智能(AI)工具等工具,例如Chatgpt,Microsoft Copilot和Google Gemini,已经从单纯的新颖性转变为数以百万计的人的旅行计划的组成部分。根据一项调查,现在有30%的国际旅行者正在使用生成的AI工具和专门的旅行AI网站,例如Wonderplan和Layla帮助组织他们的旅行。
尽管这些计划在正常工作时可以提供宝贵的旅行提示,但它们也可以使人们陷入一些令人沮丧甚至危险的情况。这是一些旅行者到达潜在的目的地时正在学习的课程,只是发现他们被喂养了不正确的信息,或者被转向了一个只有机器人的牢固想象中存在的地方。
Dana Yao和她的丈夫最近亲身经历了这件事。这对夫妇今年早些时候利用Chatgpt计划在日本岛岛上的Misen Misen山顶上进行一次浪漫的徒步旅行。在没有任何问题的情况下探索米亚吉马镇后,他们在15:00出发,及时赶上蒙顿的山顶,及时按照Chatgpt所指示的。
“那是问题出现的时候。”关于在日本旅行的博客,“当我们准备下降(通过Ropeway站)下降时。Chatgpt说,最后一个绳索是在17:30,但实际上,绳索道已经关闭了。因此,我们被卡在了山顶上。”
盖蒂图像
2024年BBC文章据报道,莱拉简短地告诉用户,北京有一座埃菲尔铁塔,并建议穿越意大利北部的马拉松路线,这是一个完全不可行的英国旅行者。旅行者说:“行程没有太大的逻辑意义。”“我们在运输上花费的时间比其他任何事情都要多。”
根据2024调查,有37%的被调查的人使用AI帮助计划旅行的人报告说,它无法提供足够的信息,而大约33%的人表示他们生成的建议包括虚假信息。
这些问题源于AI如何产生答案。根据雷德·加尼(Rayid Ghani),卡内基瓜大学(Carnegie Melon University)是一位杰出的机器学习教授,而像chatgpt这样的程序似乎正在为您提供理性,有用的建议,但获得此信息的方式意味着您永远无法完全确定它是否在告诉您真相。
加尼说:“它不知道旅行建议,方向或食谱之间的区别。”“它只知道单词。因此,它不断吐出词,这些单词使人告诉您听起来很现实,这就是许多基本问题的来源。”
诸如ChatGpt之类的大型语言模型通过分析大量文本集合并将单词和短语汇总在一起,从统计学上讲,感觉就像是适当的响应。有时,这提供了完全准确的信息。其他时候,您会得到AI专家所说的“幻觉”,因为这些工具只是构成了事情。但是,由于AI程序以相同的方式呈现了他们的幻觉和事实响应,因此用户通常很难区分真实的内容与没有的事实。
在“神圣的峡谷”的情况下,加尼认为,AI计划可能只是将几个看似适合该地区的单词汇总在一起。同样,分析所有数据并不一定会给诸如chatgpt之类的工具对物理世界有用的理解。它很容易误以为悠闲的4,000m步行穿越城市,爬上了一座山的侧面,这是在实际错误信息发行之前。
盖蒂图像
最近快速公司文章叙述了一个事件,一对夫妇跋涉到马来西亚在Tiktok上看到的一辆风景秀丽的缆车,却发现不存在这种结构。他们观看的视频完全是AI产生的,要么是为了吸引参与度,要么出于其他奇怪的目的。
像这样的事件是AI实施的更大趋势的一部分,该趋势可能会巧妙或不太巧妙地改变我们对世界的意识。最近的一个例子发生在八月,当时内容创作者意识到YouTube一直在使用AI更改他们的视频未经允许,通过巧妙地“编辑”视频中真实人的衣服,头发和面孔之类的东西。Netflix在2025年初使用AI降落在热水中为“重新制作”旧情景喜剧的努力在心爱的1980年代和90年代的电视明星的脸上,剩下的超现实扭曲。由于AI越来越多地用于在不知情的情况下进行此类小变化,因此现实与抛光的AI Dreamworld之间的界线也可能开始对旅行者变得模糊。
哈维尔·劳特(Javier Labourt),有执照的临床心理治疗师和倡导旅行方式可以帮助我们增强我们的整体心理健康和联系感,担心这些问题的扩散可能会抵消旅行最初可以提供的好处。他认为旅行为人们提供了一个独特的机会,可以与他们可能不会见面的人互动,并亲眼了解不同的文化 - 所有这些都可以带来更大的同理心和理解。但是,当AI幻觉使用户的错误信息供电时,它为旅行者甚至离开家之前提供了一个虚假的叙述。
更像这样:
当前正在尝试规范AI如何向用户提供信息,包括来自欧盟和我们要包括水印或其他区别特征,以便观众知道何时由AI改变或生成的东西。但是根据加尼(Ghani)的说法,这是一场艰苦的战斗:“围绕错误信息正在进行很多工作:您如何检测到它?您如何帮助人们[识别]它?[但是]缓解今天比预防更可靠的解决方案。”
如果这些规定确实通过,它们可以使旅行者更容易检测AI生成的图像或视频。但是,当AI聊天机器人在对话中间有所作为时,新规则不太可能为您提供帮助。包括Google首席执行官Sundar Pichai在内的专家表示,幻觉可能是Chatgpt或Google的Gemini等大型语言模型的“固有功能”。如果您要使用AI,那意味着保护自己的唯一方法就是保持警惕。
加尼建议的一件事是在查询中尽可能具体,并绝对验证所有内容。但是,他承认旅行对这种方法的独特问题,因为旅行者经常询问他们不熟悉的目的地。但是,如果AI工具为您提供了听起来太完美的旅行建议,请仔细检查。最后,加尼说,在某些情况下,验证AI信息所花费的时间与计划老式的方式一样费力。
对于Labourt而言,无论有无AI,都可以保持开放的心态并在出现问题时保持适应能力。他建议:“试图将失望转移到被某人欺骗的情况下。”“如果您在那里,您将如何转过它?您已经在很酷的旅行中,您知道吗?”
- -