科学家发出紧急警告:谷歌正在展示人工智能生成的蘑菇图像,它们看起来一点也不像 - 《每日邮报》

2024-09-30 13:33:22 英文原文

科学家发出紧急警告:Google 正在展示人工智能生成的蘑菇图像,这些图像与真实物种完全不同 - 这可能会造成致命后果

  • Google 图片搜索者已将人工智能生成的图片作为热门结果返回
  • 这可能会导致采集者将有毒蘑菇误认为是可食用品种

专家警告采集者,在搜索引擎提供人工智能生成的误导性结果后,避免使用 Google 图片来识别蘑菇。

对一些常见食用蘑菇的搜索会返回极其不准确的图像作为首要结果,尽管这些图像被标记为人工智能生成。

采集专家警告说,这可能会导致采集者在试图识别安全食用蘑菇时犯下危险甚至致命的错误。

南安普顿大学真菌学家 David Hawksworth 教授告诉《每日邮报》:“这可能极其危险。”

然而,专家经常警告说,捡起并食用我们在地面上发现的蘑菇并不安全 - 即使我们认为我们可以区分安全物种和危险物种。

Reddit 蘑菇论坛 r/Mycology 的版主发现,搜索常见的 Inkcap 蘑菇时,第一个结果就是一张不切实际的人工智能生成图像

在搜索引擎提供人工智能生成的图像(库存图像)后,采集者已被警告不要使用 Google 图片来识别蘑菇

此问题首先由 Reddit 用户 MycoMutant 发现,他是蘑菇论坛 r/Mycology 的版主。

在一篇文章中,MycoMutant 解释了他们如何寻找鸡腿菇,这是一种常见的食用蘑菇,通常被称为毛茸茸的鬃毛或毛茸茸的墨帽。

然而,用户惊讶地发现,最上面的结果是清晰的人工智能生成的图像,与真正的蘑菇没有任何相似之处。

MycoMutant 写道:“这不仅与鸡腿菇一点也不像,而且看起来更接近 Psathyrellaceae 科的墨帽,而且这个图像甚至不是真实的。”

选择该图像后发现,它的标题明确为“高级 AI 生成的 PSD”,并且托管在免费图片网站 Freepix 上。

MycoMutant 在接受 MailOnline 采访时表示,自去年 3 月以来,他们已向 Google 报告了数十张不正确的片段图像 - 其中大部分来自库存图像网站。

MailOnline 发现了另一个案例,其中人工智能生成的图像是普通食用蘑菇的第一个结果

毛茸茸的墨帽(如图)是可以食用的,但专家警告说,如果采摘者在寻找它们时被误导采摘不安全的品种,可能会有风险

MycoMutant 补充道:“库存照片网站很难提供准确的蘑菇图像,因为虽然有许多优秀的摄影师可以捕捉到蘑菇的精彩图像,但他们中的大多数人无法准确识别它们。”

从那时起,这个问题似乎只会变得更糟,谷歌甚至使用业余爱好者发布到 r/Mycology 论坛的图像,而这些爱好者的识别可能并不正确。

霍克斯沃斯教授补充道:“即使没有人工智能,许多发布的图像也被错误命名。确实需要发出警告!'

然而,当搜索另一种常见食用菌“阳伞蘑菇”时,最高的结果再次是人工智能生成的。

排名靠前的图像也由 Freepix 托管,明确标记为“优质 AI 生成图像”,并且与阳伞蘑菇完全没有相似之处。

英国野生食品公司的觅食教练兼董事总经理马洛·伦顿 (Marlow Renton) 告诉《每日邮报》:“我相信这是一个值得真正关注的领域。”

当看到这张照片时,伦托尔先生说他不知道“英国有任何看起来像这样的东西。”

一位觅食专家表示,人工智能生成的图像(右)与任何英国蘑菇都没有相似之处,也绝对不像阳伞蘑菇(左)

Google 的人工智能概述描述了山毛榉蘑菇,同时提供了牛肝菌(另一种非常不同的食用蘑菇)的图像

在另一个案例中,人工智能概述提供了常见羊肚菌的图像,同时描述了日本松茸(一种完全不同的蘑菇)

但是,人工智能驱动的错误信息不仅限于 Google 图片结果。

MailOnline 能够识别出 Google 的 AI 概览多次错误识别食用蘑菇或提供错误图像的情况。

例如,当被要求提供常见食用蘑菇列表时,Google 人工智能描述了一种山毛榉蘑菇,并附有牛肝菌(一种不同且不相关的食用蘑菇)的图像。

在一个更奇怪的错误中,在描述刺猬蘑菇时,AI 概述提供了真实刺猬的图像。

MailOnline 发现 Google 的人工智能概述为常见食用蘑菇的多次搜索提供了不正确的图像

在一个特别奇怪的案例中,谷歌在描述刺猬蘑菇时提供了一张真正的刺猬的图片

随着人工智能内容和工具变得越来越普遍,人们越来越担心新手采集者可能面临严重风险。

伦顿先生说:“这是一个真正的担忧,因为我们正在处理可能有毒的东西。

“Google 图像搜索不是可靠的图像搜索,因为他们使用的算法基本上使用页面上的标记词而不是任何图像识别软件来验证标记的准确性。

“这是一个起点,但人们应该始终找到图像的来源并做出自己的判断。”

由于蘑菇非常相似,依靠人工智能可能会忽略区分潜在危险物种的细节。

在一个例子中,伦顿先生在白色圆顶蘑菇(一种剧毒品种)上使用了一款流行的人工智能蘑菇识别应用程序。

伦顿先生表示,人工智能驱动的应用程序和信息可能会将白色圆顶蘑菇(如图)等有毒品种误认为是外观相似的可食用蘑菇

然而,该应用程序自信地将该蘑菇识别为圣乔治蘑菇,这是一种备受推崇的美食蘑菇。

“如果新手信任该应用程序,他们就会毒死自己,”伦顿先生说。

最近,采集者被警告不要购买亚马逊上销售的人工智能生成的采集书。

这些书籍包含人工智能生成的描述和图像,在许多情况下是不正确和具有误导性的。

野生食品教育家兼家庭觅食厨房创始人维克斯·希尔-莱德 (Vix Hill-Ryder) 告诉《每日邮报》:“虽然所有蘑菇都可以安全处理和闻起来,但有些野生蘑菇,例如剧毒死帽蘑菇,可能会被误认为是可食用的”品种多,有毒。

“我建议仅使用在线搜索引擎和应用程序作为随附的参考工具,以补充或与从信誉良好的书籍来源获取的肯定 ID 进行比较,并且最好通过与该领域的专家一起学习的课程来进行自我教育.'

Google 发言人告诉 MailOnline,该公司正在“调查此事”。

关于《科学家发出紧急警告:谷歌正在展示人工智能生成的蘑菇图像,它们看起来一点也不像 - 《每日邮报》》
暂无评论

摘要

科学家发出紧急警告:谷歌正在展示人工智能生成的蘑菇图像,这些图像与真实物种完全不同——这可能会产生致命的后果谷歌图像搜索者将人工智能生成的图像作为热门结果返回这可能会导致采集者将有毒蘑菇误认为是可食用品种专家警告采集者,在搜索引擎提供人工智能生成的误导性结果后,避免使用谷歌图像来识别蘑菇。排名靠前的图像也由 Freepix 托管,明确标记为“优质人工智能生成图像”,并且与阳伞蘑菇完全没有相似之处。MailOnline 发现,谷歌的人工智能概述为常见食用蘑菇的多次搜索提供了错误的图像在一个特别奇怪的案例中,谷歌在描述刺猬蘑菇时提供了一张真正的刺猬的图片随着人工智能内容和工具变得越来越普遍,人们越来越担心新手采集者可能面临严重风险。“这是一个起点,但人们应该始终寻找图像的来源并做出自己的判断。”野生食品教育家兼家庭觅食厨房创始人维克斯·希尔-赖德 (Vix Hill-Ryder) 告诉《每日邮报》:“虽然所有蘑菇都可以安全处理和闻起来,但有些野生蘑菇,如剧毒死帽蘑菇,可能会被误认为是可食用品种,有毒的。