什么是人工智能代理？计算机科学家解释下一波人工智能工具

与 ChatGPT 等 AI 聊天机器人交互可能很有趣，有时甚至很有用，但日常 AI 的下一个层次不仅仅是回答问题：AI 代理为您执行任务。

主要科技公司包括开放人工智能,微软,谷歌， 和销售人员，最近发布或宣布计划开发和发布人工智能代理。他们声称这些创新将为医疗保健系统中使用的技术和管理流程带来新的效率，机器人技术、游戏和其他业务。

可以教会简单的人工智能代理回复通过电子邮件发送的标准问题。更高级的人可以预订跨大陆商务旅行的机票和酒店机票。谷歌最近展示了水手计划向记者透露，这是一款 Chrome 浏览器扩展，可以推理屏幕上的文本和图像。

在演示中，代理帮助计划膳食通过将商品添加到杂货连锁店网站上的购物车，甚至在某些成分缺货时寻找替代品。仍然需要有人参与才能完成购买，但可以指示代理商采取所有必要的步骤。

从某种意义上说，你是一个代理人。你每天在你的世界中采取行动来回应你所看到、听到和感觉到的事情。但人工智能代理到底是什么？作为一个计算机科学家，我给出这个定义：人工智能代理这些技术工具可以深入了解给定环境，然后通过人类的一些简单提示来解决该环境中的问题或执行特定任务。

规则和目标

智能恒温器是一个非常简单的代理的例子。它感知环境的能力仅限于告诉它温度的温度计。当房间温度低于一定水平时，智能恒温器会通过调高热量来做出响应。

当今人工智能代理的一个熟悉的前身是 Roomba。例如，机器人吸尘器可以学习铺有地毯的客厅的形状，以及地毯上有多少污垢。然后它根据该信息采取行动。几分钟后，地毯就干净了。

智能恒温器是人工智能研究人员所说的一个例子简单反射剂。它做出决策，但这些决策很简单，并且仅基于智能体当时的感知。扫地机器人是一个基于目标的代理目标只有一个：清洁它可以到达的所有地板。它做出的决定——何时转动、何时升高或降低刷子、何时返回充电底座——都是为了实现这一目标。

基于目标的代理只需通过任何所需的手段实现其目标即可取得成功。目标可以通过多种方式实现，然而，其中一些可能比其他方式更令人满意或更不令人满意。

当今的许多人工智能代理都是基于效用，这意味着他们更多地考虑如何实现自己的目标。在决定如何进行之前，他们会权衡每种可能方法的风险和收益。他们还能够考虑相互冲突的目标，并决定实现哪个目标更重要。他们超越了基于目标的代理，选择考虑用户独特偏好的操作。

做出决定，采取行动

当科技公司提到人工智能代理时，他们并不是在谈论聊天机器人或像 ChatGPT 这样的大型语言模型。尽管在网站上提供基本客户服务的聊天机器人从技术上讲是人工智能代理，但它们的感知和行动是有限的。聊天机器人代理可以感知用户输入的单词，但它们可以采取的唯一操作是回复文本，希望为用户提供正确或信息丰富的响应。

人工智能公司所指的人工智能代理相对于 ChatGPT 等大型语言模型来说是重大进步，因为它们具有代表使用它们的人和公司采取行动的能力。

OpenAI 表示代理将很快成为人们或企业的工具离开独立运行一次持续几天或几周，无需检查他们的进度或结果。研究人员在开放人工智能和谷歌深度思维说代理商是通往这一目标的又一步通用人工智能或“强”人工智能——也就是说，人工智能在许多领域和任务上都超越了人类的能力。

人们今天使用的人工智能系统被认为狭义人工智能或“弱人工智能”。一个系统可能擅长某一领域——也许是国际象棋——但如果投入到跳棋游戏中，同样的人工智能将不知道如何运作，因为它的技能无法转化。通用人工智能系统能够更好地将其技能从一个领域转移到另一个领域，即使它以前从未见过新领域。

值得冒险吗？

人工智能代理是否准备好彻底改变人类的工作方式？这将取决于科技公司是否能够证明智能体不仅能够执行分配给他们的任务，而且能够在出现新挑战和意外障碍时应对它们。

人工智能代理的采用还取决于人们是否愿意让他们访问潜在的敏感数据：根据代理的目的，它可能需要访问您的互联网浏览器、电子邮件、日历和其他应用程序或与给定任务相关的系统。随着这些工具变得越来越普遍，人们将需要考虑他们想要与他们共享多少数据。

人工智能代理系统遭到破坏可能会导致有关您的生活和财务的私人信息泄露落入坏人之手。如果这意味着代理可以为您节省一些工作，您愿意承担这些风险吗？

当人工智能代理做出错误的选择或用户不同意的选择时会发生什么？目前，人工智能代理的开发人员正在让人类了解情况，确保人们有机会在做出任何最终决定之前检查代理的工作。在 Project Mariner 示例中，Google不会让代理人进行最终购买或接受网站的服务条款协议。通过让您随时了解情况，系统让您有机会撤销代理做出的任何您不批准的选择。

与任何其他人工智能系统一样，人工智能代理也会受到偏见的影响。这些偏见可能来自代理最初训练的数据、算法本身或代理输出的使用方式。让人们参与进来是减少偏见的一种方法，方法是确保决策在执行之前经过人们的审查。

这些问题的答案可能会决定人工智能代理的受欢迎程度，并取决于一旦人们开始使用它们，人工智能公司可以在多大程度上改进它们的代理。

本文转载自对话根据知识共享许可。阅读原创文章。

图片来源：安特·罗泽茨基在未飞溅

布莱恩·奥尼尔

Brian O'Neill 博士是昆尼皮亚克大学计算机科学副教授。他的主要研究领域是人工智能，特别强调人工智能在支持创造力方面所发挥的作用。他的研究旨在了解人工智能如何帮助人们成为更好的讲故事者，同时让人工智能更好地理解是什么让故事对人们来说有趣。他还研究人工智能和棋盘游戏之间的关系。