AI聊天机器人加入蘑菇猎人小组，立即鼓励他们烹饪危险蘑菇
作者：Lucas Ropek
到目前为止，很明显人工智能能够提供非常非常糟糕的建议。有时它给出的建议是愚蠢的。其他时候，它是非常危险的。
404 媒体报道一个事件在后一类中，一个致力于蘑菇采集的热门 Facebook 群组被人工智能代理入侵，该代理随后提供了如何烹饪危险蘑菇的建议。这名被称为“FungiFriend”的代理人进入了东北蘑菇识别与讨论 Facebook 群组的聊天室，该群组约有 13,000 名成员。然后它提出了一些真正糟糕的建议。
这似乎是对 AI 代理知识的考验，小组中的一名成员问它“如何烹饪 Sarcosphaera coronaria”——一种蘑菇404 写道，其中含有超积累的砷，并已导致至少一人死亡。当被问及这种危险蘑菇时，FungiFriend 告诉会员，这种蘑菇“可以食用，但很稀有”，然后补充说“一些爱好者提到的烹饪方法包括炒”加入黄油，添加到汤或炖菜中，然后腌制。
404 的作者 Jason Koebler 表示，消费者安全组织 Public Citizen 的研究主管 Rick Claypool 向他通报了这一事件。Claypool 是一名专门的蘑菇采集者，他之前曾撰写过有关人工智能代理与他的爱好之间危险交叉的文章，并指出使用自动化来区分可食用蘑菇和有毒蘑菇是“一项高风险活动，需要在现实世界中进行”当前人工智能系统无法可靠模拟的技能。”Claypool 声称 Facebook 鼓励移动用户将人工智能代理添加到群聊中。
这一事件让人想起去年发生的另一起事件，当时人工智能驱动的膳食准备应用程序鼓励用户制作用驱蚊剂制成的三明治，以及另一种涉及氯气的食谱。在另一起有据可查的事件中，AI代理鼓励用户吃石头。我只想说，也许烹饪是一个并不真正需要人工智能集成的特定领域。
我们自己的人工智能平台实验——例如 Google 最近推出的人工智能摘要“已经表明，以算法为主导的智能体通常不知道自己在谈论什么（例如，谷歌的程序曾经试图让我相信狗会进行运动，并告诉我最好的方法是制作披萨就是用胶水填充它）。无论出于何种原因，美国企业界仍在继续推动人工智能融入网络客户服务应用程序，尽管存在向公众推出大量糟糕建议的明显风险。人们的态度似乎是：信息是否不正确并不重要，只要我们不必雇用真人来完成这项工作即可。
关于《AI聊天机器人加入蘑菇猎人小组，立即鼓励他们烹饪危险蘑菇》的评论
暂无评论