谷歌的人工智能概述告诉成年人与孩子一起使用“魔杖”

当谷歌的人工智能概述搜索功能5月推出，一般被认为是一团糟。它告诉人们吃饭胶水和岩石,诽谤的有新闻价值的数字，抄袭记者的作品，谷歌太糟糕了添加了一个功能完全关闭它。自 AI Overview 推出以来的近 10 个月里，它仍然犯了一些错误，比如告诉人们振动器可以用于儿童行为治疗。 

作为发现了作者：Reddit 用户 clist186，搜索“魔棒怀孕”会返回一个奇怪的答案，关于儿童的创造力，这是一项“有趣且引人入胜”的活动，旁边还附有魔棒振动器的图像，这是最受欢迎和最普遍的振动器之一世界上公认的性玩具： 

– 魔棒工具是父母确定他们想要做出的行为改变（包括与怀孕相关的行为改变）的一种创造性方式。它可以使评估变得有趣且有吸引力，特别是对于 WIC 的长期客户而言。魔棒工具的工作原理如下：
家长们描述了他们可以通过“挥动魔杖”来改变哪些育儿挑战。父母和年龄较大的孩子的反应可以用来开始讨论。魔棒工具可以在线购买或在当地商店购买。

更奇怪的是，当我搜索这个词时，我没有得到与育儿相关的人工智能概述结果，但 404 的 Emanuel Maiberg（众所周知，他本人也是一位家长）却得到了。 

AI Overview 由 Google 的 Gemini 模型提供支持，作为其结果的一部分提供信息来源的链接；在这种情况下，它总结了一份文件来自新罕布什尔州卫生与公众服务部关于一项思维练习，治疗师向客户传递一根“魔杖”，帮助他们想象一个理想的场景。这并不是指将日立交给孩子，但人工智能并不知道这一点。

在搜索词“什么是魔杖”的另一个结果中，AI Overview 将魔杖性玩具的照片与魔术师魔术的描述配对：

– 魔术棒是魔术师用来表演魔术并使魔术发生的小棍子。它通常很短，黑色，并有一个白色的尖端。魔术师使用魔杖来误导他人，让事情发生，比如增长、消失、移动或表现出他们自己的意志。例如，一个经典的魔术是让一束鲜花从魔杖的尖端出现。”

不过，此概述结果最终确实描述了所讨论的魔棒： - 魔棒也可能指按摩器品牌：日立魔棒。一种按摩设备，于 1968 年首次上市用于商业用途，并于 20 世纪 70 年代向公众开放。它旨在缓解疼痛和紧张，舒缓肌肉和神经酸痛，并帮助运动损伤后的康复。”

在关于人工智能概述的公司博客，谷歌表示，该功能使用“多步推理功能”来“帮助解决日益复杂的问题”。搜索词“魔杖怀孕”并不是特别复杂；大多数具有基本阅读理解能力的人可能会认为该术语正在寻找有关怀孕期间使用世界上最受欢迎的性玩具之一的答案。但双子座却采取了最奇怪的路线，从一份关于谈话治疗技术的晦涩文件中提取内容，其中恰好包含“魔杖”和“怀孕”这两个短语。 

使用完整的自然语言查询进行搜索 - 你怀孕时可以使用魔杖吗 - 返回一个更细致的 AI 生成的响应，该响应考虑到搜索者可能会想到几种不同类型的魔杖： 

去年，Reddit 与 Google 签订了每年 6000 万美元的合同作为交换，用户可以使用内容来训练 Google 的 AI 模型。Reddit 仍然允许发布成人内容，包括性教育和有关性玩具的对话，Reddit 是少数几个没有完全禁止性行为的平台之一，而且与怀孕相关的问题在那里非常受欢迎。（有几十个专门关于使用的问题怀孕期间使用振动器.）将搜索词表述为一个问题而不是一组关键字会得到人工智能更好的响应，这是有道理的：这就是人工智能接受的训练。 

值得庆幸的是，大多数搜索“魔杖怀孕”的人可能能够利用他们的人脑推断出他们不应该在儿童团体治疗中使用振动器作为谈话棒。但这是人工智能被推入每一种产品和工具的又一个例子，它给上网体验增加了更多的工作、摩擦和混乱，而不是减少——正如科技公司不断承诺的那样。 

谷歌没有立即回应置评请求。