代理AI：平衡自主权和问责制

代理AI应用程序必须将自主性和人类干预的正确组合融合在一起，以建立确保成功的信任和准确性。

生成人工智能（Genai）一直是AI创新的主要力量，帮助组织更快，更智能，创造力提高。下一波代理AI提高了赌注，并承诺有自主，多步工作流和独立决策。然而，组织必须在自动化和问责制之间取得适当的平衡，以利用企业规模的新工作模式。

去年，AI的自然演变已成为推动运营效率，修剪成本并消除客户和员工经验的摩擦的一种手段。

但是，随着Genai用例的繁殖，企业在与现有系统和工具集成并引入自主行动方面面临着挑战。实际上，尽管Genai投资投入了300亿美元，但有95％的组织表示，他们尚未看到任何可衡量的盈利价值。最近的麻省理工学院报告。断开连接导致人们对结合AI技术来改变复杂的工作流并实现期望的业务成果的兴趣上升。

“完全自主和LLM [大语言模型]仅基于基于的AI代理人，因为对于企业而言，您不仅需要自治，” Marinela Profi，Global AI和Genai Market Market Strategend在SAS中说，最近的铸造网络研讨会为了实现该决策组成部分，我们开始将LLM与工具，内存和概率组件（如传统AI）相结合。”

三个责任支柱

组织正在拥抱AI系统提供反馈和建议的能力，但他们尚不满意地递给系统充分自主权以做出决策并启动行动而没有​​某种水平的人类监督。

PROFI说：“自主权很棒，但是自主权过多 - 尤其是在没有监督的企业环境中 - 可能会导致意想不到的决定，合规性问题，违反价值和品牌损害。”``自治必须与问责制平衡，这意味着企业必须知道为什么代理做出决定。

在识别或部署代理AI用例之前，组织需要建立与三个责任感一致的机制：

• 解释为什么要做出特定决定
• 适当的治理和可追溯性
• 人力干预审计或根据需要覆盖

人类在环境中也是设计代理AI应用的关键因素。当应用程序设计人员自动执行少数任务时，系统日志通常足以解释任何差异或更正。但是随着复杂性的增长，人类互动是工作流程设计的重要组成部分，Microsoft高科技领域的首席数据兼AI官员Eduardo Kassner解释说。卡斯纳说：``您真正地做的是提高可用性，因为人们更信任系统。”

要考虑的另一个因素是构建与购买方程。供应商正在将代理纳入其软件中，许多供应商正在提供预先建立的AI代理以简化和简化了部署。尽管这些现成的工具可以启动实施，但是考虑到任务的特殊性，必须进行一些自定义开发。数据管理的复杂性；卡斯纳说，安全，合规性和主权要求。

随着组织使用代理AI的前进，应考虑以下标准以确保成功：

• 可靠性和准确性
• 隐私
• 安全性，合规性和主权要求
• 性能基准
• 成本管理

数据访问，治理和管理将是一个持续的挑战，如果做得正确，成功的标志。

Profi说，关键的要点是：不只是自动化或产生。”•通过智力和信任来编排决策。那是代理AI的真正力量和承诺。

要了解更多信息，请观看此网络研讨会这里。