人工智能代理可能是新的劳动力，但他们仍然需要经理

我们越来越多地听说人工智能代理是新的“数字工人”——这个概念出现在代理或代理之前 生成式人工智能在以下领域成为主流 机器人过程自动化。数字员工旨在服务于纪律和服从，但就像人类员工一样，他们也有自己的怪癖。

另外： 2024 年人工智能为我节省工作时间的 15 种方式 - 以及我计划在 2025 年如何使用它

最近，数字化劳动力的发展取得了巨大飞跃，Salesforce 最近推出了企业数字化劳动力平台 Agentforce 2.0。该平台使“通过人工智能代理该平台还采取了远远超出 RPA 的步骤，其特点是“增强推理和数据检索，以提供精确的答案并协调行动”根据 Salesforce 的一份声明，“以回答复杂的、多步骤的问题”。代理甚至可以在 Slack 中进行交互。

通过数字劳动力增强团队

该供应商补充说，主要组织正在利用该平台通过数字化劳动力来增强其团队。

Salesforce 表示，人才稀缺且培训成本高昂，因此组织正在转向人工智能来帮助客户互动并处理工作流程积压，但无法再承担“提供通用响应的不充分解决方案”。“现有的解决方案（例如副驾驶）很难对复杂的请求提供准确、可信的响应，例如工作申请的个性化指导。他们无法自行采取行动，例如通过产品推荐来培养潜在客户。”

行业领导者一致认为，自主数字工作者现在可以在多个层面上执行此类工作。摩托罗拉解决方案人工智能透明度和教育总监 Chris Bennett 告诉 ZDNET：“熟练的创新者、可快速部署的云工具、客户意识和高管支持的融合，为代理人工智能在 2025 年蓬勃发展创造了理想的环境。”

例如，摩托罗拉解决方案已经开始利用代理人工智能贝内特表示：“通过实时分析和显示数据的应用程序来改善公共安全和企业安全，为急救人员和安全人员提供关键的即时支持。”“人工智能代理永远不会感到无聊、疲倦或分心，可以自动执行重复性任务，并让响应人员能够承担关键责任和参与社区参与。人工智能代理可以加速诸如查看历史视频片段等任务，帮助调查人员通过自然语言搜索快速找到失踪人员。”

Aurascape 联合创始人兼副总裁 Viswesh Ananthakrishnan 表示，这是通过人工智能代理的直觉过程来“创建一系列步骤或解决问题的方法”。他们还可以“采取行动来执行这些步骤，甚至与其他代理协作来执行这些步骤。当结合在一起时，这些数据可以让代理了解企业如何运作。”

另外： OpenAI 的 o3 还不是 AGI，但它只是做了其他 AI 没有做过的事情

然后，人工智能代理“开发并执行复杂的流程，例如查看需求预测并采取主动行动，在供应不足之前生成并提交更多库存的订单，”他继续说道。“这种类型的自动化可以为工人节省大量时间，并将他们从重复性任务中解放出来。”

人工智能代理需要经过深思熟虑的管理

与此同时，人工智能代理需要得到深思熟虑的管理，就像人类工作的情况一样，在人工智能驱动的代理劳动力真正承担广泛的任务之前，还有很多工作要做。Norwest Venture Partners 合伙人 Scott Beechuk 表示：“虽然代理人工智能的前景显而易见，但我们距离在企业层面广泛采用代理人工智能还需要几年的时间。”“鉴于代理在自动化关键任务业务流程方面的潜在作用，他们必须值得信赖。”

人工智能代理行为的可追溯性是一个问题。Ananthakrishnan 说：“许多工具很难解释它们如何从用户的敏感数据中得出响应，并且模型很难概括出他们所学到的知识。”

比丘克说，不可预测性是一个相关的挑战，因为法学硕士“像黑匣子一样运作”。“用户和工程师很难知道人工智能是否成功完成了任务，以及是否正确完成了任务。”此外，他警告说，人工智能代理仍然存在不可靠性。“在人工智能创建自己的步骤来完成任务的系统中，随着任务的进展，虚构的细节可能会导致更多错误，最终导致输出不可靠。”

另外： 为什么道德正成为人工智能最大的挑战

人类工作者还能够轻松、定期地进行协作。对于人工智能工作者来说，情况就不同了。“由于代理将与多个系统和数据存储进行交互，因此实现全面的可见性并不是一件容易的事，”Ananthakrishnan 说。拥有可见性来捕获代理所采取的每个操作非常重要。“这意味着深入了解端点设备上的活动以及处理各种格式数据的能力。”然后，重要的是能够“快速地将来自端点的上下文与网络级流量相结合，以确定通知代理操作的数据”，以及“识别与您的数据交互的人工智能代理的类型，无论它是否是可信实体，或者是一个全新的代理人。”

人工智能系统工程师

这可能会促进新兴的以人为本的角色——人工智能系统工程师。Beechuk 表示：“这种新的质量保证和监督角色对于企业管理和持续优化人工智能代理来说将变得至关重要。”

在多代理环境中，“人工智能代理将不断交互和发展，消耗稳定的新数据来执行各自的工作，”他解释道。“当其中一个有意或无意地获得不良数据并改变其行为时，它可能会开始错误地执行其工作或精度较低，即使它在前一天做得很好。一名代理的错误然后会产生连锁效应，降低整个系统的性能，企业将雇佣尽可能多的人工智能系统工程师来防止这种情况发生。”

另外： 生成式人工智能现已成为技术专业人士的必备工具

贝内特建议说，公司和技术团队可能“处于支持代理人工智能的有利位置，但我们仍然需要时间和经验来在代理工作流程和人类工作流程之间取得适当的平衡”。“我们的建议是将人工智能视为人类专家的增强，而不是替代品。”