关于使用人工智能提供节日游泳潮汐时间建议的警告

2025-12-26 07:36:46 英文原文

Sam Skyrme-Blackhall A large crowd of people, some in fancy or Christmas dress, is running into the sea. There is a large moss-covered rock on the beach behind them and a raised walkway around the beach with people standing spectating. A grassy cliff frames the beach with a street above it, backed by blocks of brightly painted townhouses in different colours.萨姆·斯凯尔姆-布莱克霍尔

滕比是英国众多举办节礼日游泳活动的城镇之一

节日期间,数千人将前往英国各地水域参加已有数十年举办的有组织的游泳活动。

但那些独自行动的人可能需要留意海事和海岸警卫队的警告,在规划户外活动时不要依赖人工智能工具,因为它可能会犯错误。

此前,ChatGPT 给出了错误的潮汐时间,导致两人被困在巴里附近的苏利岛,不得不由海岸警卫队营救。

这一警告呼应了一位顶级科技行业负责人的建议,即不要“盲目相信”人工智能告诉人们的一切。

谷歌母公司Alphabet首席执行官桑达尔·皮查伊(Sundar Pichai)近日表示AI模型容易出错并敦促人们将它们与其他工具一起使用。

这一事件是否表明人们对人工智能保持警惕是明智之举?

一名获救男子这样认为。

Alan Hughes/Geograph A grassy island still partly connected to the mainland in the background by a narrowing strip of land with water either side of it. Buildings are visible on the shoreline.艾伦·休斯/地理杂志

苏利岛的堤道在退潮时可以步行,但一旦海水开始回归,堤道很快就会被淹没

他告诉社交媒体新闻频道珀纳斯SMTV:“我犯了一个错误,使用 ChatGPT 进行研究,看看退潮时间是什么时候。”

AI 程序表示退潮时间为 09:30,这意味着他们清晨出发应该有足够的时间步行返回岛屿。

但信息在两个小时前就出现了错误,当他们试图返回时,堤道已被淹没。

“其中有一些虚假信息,但也许对我来说是一个教训,”他说。

英国海岸警卫队表示:“虽然人工智能工具非常有用,但它们从广泛的来源收集信息和响应,这些信息和响应对于特定位置或区域可能不正确。”

它推荐了英国海道测量局等资源轻松潮汐气象局的服务。

有关潮汐时间的信息很容易在网上获得 - 搜索引擎会弹出多个网站,所有网站都提供相同的正确信息。

然而,当 BBC 向 ChatGPT 询问与不幸的访客相同的问题时,它生成了完全相同的、不正确的响应。

另一次尝试,结果提前了五个小时。

拥有 ChatGPT 的 Open AI 表示,提高事实准确性是该行业的“重要焦点”,而新模型的数据明显减少幻觉但还是发生了。

卡迪夫大学计算机科学学院人工智能和数据分析研究部门负责人 Steven Schockaert 教授表示,在这种情况下,问题可能在于信息在网上的呈现方式。

“我认为这里的问题是潮汐表显示在表格中,而模型很难从表格中提取正确的值,”他解释道。

“传统上,表格对于语言模型来说相当具有挑战性,因为它们接受过语言训练,所以单词[书写]是从左到右的。表格没有这种结构。”

Steven Schockaert a head shot of Steven Schockaert. He is a white man with short light brown hair, light brown eyes. He is looking at the camera and slightly smiling.史蒂文·肖卡特

Steven Schockaert 建议不要依赖人工智能来进行行程规划等工作

他建议人们坚持向人工智能询问可以自行验证的信息,例如起草电子邮件。

“但如果你要求它提供事实信息,那么你就无法保证它是否正确。

“我认为依赖它们获取无法验证的信息可能不是一个好主意,但这些信息在某种程度上很重要,就像在这种情况下的潮汐一样。”

Sam Skyrme-Blackhall Sam is a white woman with blue eyes in a head and shoulders shot of her in the sea. She is wearing a purple woollen-style hat with what looks like a built-in head torch. The background is out of focus but some buildings can be seen next to what looks like a possible harbour or slipway wall.萨姆·斯凯尔姆-布莱克霍尔

萨姆·斯凯尔姆·布莱克霍尔 (Sam Skyrme-Blackhall) 在滕比长大,深知大海可能带来的危险

萨姆·斯凯尔梅-布莱克霍尔 (Sam Skyrme-Blackhall) 是滕比海游泳协会 (Tenby Sea Swim Association) 的主席,该协会负责举办节礼日活动。

她全年都游泳,了解水带来的挑战。

对于这次有组织的活动,我们采取了多种安全措施,包括海滩上的执法人员、冲浪救生员和 RNLI 出海观看节日的北斗七星。

在陆地上,圣约翰救护车提供医疗支援。

然而,她认为社交媒体对海岸的完美描绘可能会让人们高估自己的能力。

“这就像一本故事书,不是吗?一切表面光鲜亮丽,但现实却暗藏危险。

“这些是潮汐海滩 - 我每周检查潮汐时间,看看我在哪里,但也会检查条件。

“听听专业人士的说法。听听当地有知识的人的意见。”

Gareth Davies Gareth Davies is a middle-aged man with short greying hair and a closely trimmed beard and mustache. His head and torso is visible and he is looking to the right of the picture. He wears a white climbing safety helmet with straps and an integrated head torch, and a bright orange outdoor jacket with a white and blue mountain rescue logo on the chest and arm. He is carrying a backpack which has a walkie-talkie in a waterproof cover attached. In the background are blue sky with clouds and trees.加雷斯·戴维斯

加雷斯·戴维斯 (Gareth Davies) 已在阿伯迪菲搜救队工作了十年

有时人工智能既可以帮助也可以阻碍户外旅行。

阿伯迪菲搜索救援队营救了两名步行者,他们使用人工智能计划了前往多尔盖劳附近的卡德尔伊德里斯的旅行,这是埃里里南部的最高峰(也称为斯诺登尼亚)。

队长菲尔·布里顿 (Phil Britton) 和副队长加雷斯·戴维斯 (Gareth Davies) 都有 50 多年的经验,他们都是救援小组的成员。

两人告诉菲尔,他们已经使用人工智能来检查天气并寻求装备建议 - 不幸的是,那天是风暴艾米袭击英国。

菲尔形容这对山地徒步新手“准备得相当充分”,并补充道:“如果你有一份应该携带的物品清单,他们就有。”

他说,无论人工智能向他们提供什么信息,他们的经验不足意味着他们缺乏正确的判断。

“我认为他们收到了顶部风速为 60 英里/小时的报告。对他们来说这没有任何意义。

“在山地救援中,我们发现,那里有所有信息,但如果你没有经验,它总是将其解释为现实生活中的情况。”

“判断错误”

两人到达山顶并在一间小屋里避难,但意识到现在的情况超出了他们的能力。

这一次,人工智能来拯救他们了。

加雷思是在同事步行下山后遇见这对夫妇的,他说:“有人说,他们就是这样知道该怎么做的。他们与人工智能提供商交谈,说‘我们被困在英国的一座山上,我们该怎么办’?”

加雷斯认为这些人“都不傻”,他们拥有旅行所需的装备和身体素质,但“判断上有点错误”。

Getty Images Photo taken from near the top of Cader Idris. The angle looks down onto a mountain lake which is bordered on three sides by mountainsides forming a cauldron. The day is a mixture of bright sun and shade but there are misty-edged heavy and dense white clouds above the mountains which look like they could easily turn to rain.盖蒂图片社

Cader Idris 很受步行者欢迎,但在 893m 的海拔高度,山顶的天气很快就会变坏

但这让他更加坚信,人类的经验是无可替代的。

和山姆一样,他建议亲自或通过在线论坛寻求当地知识。

“我是一名休闲步行者。我已经完成了一些比较棘手的步行,但如果一位经验丰富的步行者说‘这对我来说意义重大’,我可能会想和一个伙伴或者更了解这座山的人一起去。”

对于菲尔来说,无论是人工智能、应用程序还是手机电池,都有一个共同的主题:“技术很聪明,但你必须知道它的局限性。”

关于《关于使用人工智能提供节日游泳潮汐时间建议的警告》的评论


暂无评论

发表评论

摘要

海事和海岸警卫队警告不要依赖人工智能进行户外活动规划,因为可能会出现错误。在此之前,ChatGPT 的潮汐时间错误导致了被困人员获救。Alphabet 的 Sundar Pichai 还建议谨慎对待人工智能生成的信息,强调验证事实的重要性。专家建议坚持使用经过验证的来源并谨慎使用人工智能,尤其是对于潮汐表和户外活动期间的天气状况等关键细节。

相关讨论