信任，但验证您的AI代理的行为
作者：Joe McKendrick
AI代理需要建立信任
当涉及到迄今为止AI特工的好处时，它是真正的肉类和蛋白质的东西：在最近的一项调查中，有66％的报道提高了生产率，有57％的人表示他们看到了节省成本，而55％的人表示，AI代理商已经加强了他们的决策。改变游戏规则的东西增强了创新和开放新的收入来源，列表中仍然较低，分别提及35％和29％。这民意调查
普华永道上个月发布的300名高级管理人员中，有300名高级管理人员找到了这些基本收益的证据，以及向代理商流向代理商的大量资金。几乎全部（88％）说，他们的团队或业务职能计划在未来12个月内增加与AI相关的预算以开发和部署代理AI。超过四分之一的26％的人将此类预算提高了50％以上。79％的人说，他们的公司已经采用了AI代理商。
尽管如此，大多数（68％）报告说，他们的员工中有一半或更少在日常工作中与代理商互动。普华永道的研究人员说，很少有企业在工作流程和功能之间连接代理商，但实际价值所在。” PWC研究人员说。
在生产力和节省成本的承诺之外，提供有效的代理AI需要什么，这是每项技术之前每项技术的标志？整个商业环境的专家和领导者都指出，需要密切关注信任，员工准备，数据和企业文化等因素。
AI和代理模型的迅速激增将使技术民主化以前从未有过民主化。”Elise Houlik，Intuit首席隐私官。他们已经被广泛应用于无数学科，包括创建营销活动，合同审查和监管合规性。”
但是，许多组织可能没有准备好大规模地接受这些优势。''说，企业及其技术团队的准备就绪，整合此类高级AI解决方案的差异很大。Kwamie Dunbar博士，伍斯特理工学院财务副教授。这种差异强调了对AI的潜在利益的认可，并通过故意的实施方法进行了缓解。”
许多组织“尚未充分准备整合这些高级技术，同意伦纳德·金，Hyland的首席产品官。Kim说：“代理AI实施需要包括团队的高技能来弥合AI知识差距。”随之而来的是，AI需要被视为增强人类能力而不是取代它们的工具。
邓巴说，将代理AI整合到现有的工作流程中，需要组织过程和文化的重大变化。”此外，缺乏数据准备就绪。AI系统需要一致，清洁和组织良好的数据才能有效运行。
ISG的首席战略官Prashant Kelker说，代理AI支持自动申请，它的价值浮出水面 - 需要加强技术，商业和合规团队之间的跨职能一致性。
正如普华永道调查中所揭示的那样，对自治AI代理的信任是另一个挑战。39％的高管仍然不信任将任务交给代理商，而35％的高管人员担心维持人类的监督和问责制。
为了获得更多信任对关键工作流程释放自主代理的信任，代理AI的最前沿的公司面临着关键的挑战：平衡自治与用户控制Ashok Srivastava，Intuit首席数据官。关键是“结合自适应透明度，道德保障和上下文感知学习以增强客户决策的能力”。
为此，凯尔克（Kelker）建议建立跨代理系统的故障安全机制。这包括设计替代系统以在不希望的代理行为的情况下重新控制控制。
Srivastava说，此类信任还需要管理直观的人类协作，以确保效率，同时保持用户权威。”没有信任和信心，代理AI系统自主计划，理性和执行任务的能力将是无关紧要的。他说，这一微妙的平衡对于AI驱动的企业的长期成功至关重要。”他说。
关于《信任，但验证您的AI代理的行为》的评论
暂无评论