加入我们的每日和每周时事通讯，了解有关行业领先人工智能报道的最新更新和独家内容。了解更多
立即服务长期以来一直是企业IT运营的基石，其旗舰产品现在平台. . . . . . . . . . . . . . . . . .
最近几年，公司已发展壮大通过引入企业人工智能功能来增强其能力，包括 现在协助。作为组织用来实际运营其运营的平台，拥有高度的信心绝对至关重要。特别是对于生成式人工智能，企业对安全性存在一些犹豫，并担心潜在的幻觉。
今天，该公司宣布为其旗舰 Now 平台提供一系列新的治理功能，旨在帮助增强企业使用人工智能的信心。新的治理功能解决了企业人工智能采用中日益严峻的挑战：实验和全面生产部署之间的差距。
治理组件包括 Now Assist Guardian、Now Assist Data Kit 和 Now Assist Analytics。新工具可帮助组织管理整个企业的人工智能部署。当公司超越概念验证阶段进入完整的生产环境时，这些工具至关重要。
ServiceNow 人工智能产品副总裁杰里米·巴恩斯 (Jeremy Barnes) 告诉 VentureBeat，“去年，总体而言，这更多的是一种实验方法，而今年它正在变得现实。”“人们正在为了与他们的收入或利润相关的事情而部署人工智能。”
为什么人工智能治理对于企业采用至关重要
在企业中，治理和合规性是关键运营。
ServiceNow 平台认识到不同企业利益相关者之间通常很复杂的关系。
“通常情况下，我们的客户将在与定义和拥有生成式人工智能经济效益的组织不同的组织中拥有治理和合规性，”Barnes 说。
在大多数组织中，这通常意味着一个团队可以一起获得概念验证来尝试生成式人工智能。在此阶段，与在完整生产部署中跨企业推出应用程序或服务时所面临的限制不同。企业内的治理团队不可避免地会告诉开发团队，如果不首先确保符合组织的策略，他们就无法部署某些内容。巴恩斯表示，结果往往是，生成式人工智能的努力最终会在概念验证和生产之间长期处于“不稳定状态”。
他指出，新的人工智能治理更新通过提供满足业务和合规性要求的工具和可见性来帮助弥合这一鸿沟。
“人工智能治理不仅仅是研究模型，”巴恩斯评论道。
他解释说，这是关于拥有一个包含人工智能组件和传统工作流程的系统。它涉及理解并能够确保系统符合企业所需的预期结果。治理还涉及了解何时出现问题并提供管理情况的能力。
代理人工智能如何加速治理势在必行
现在需要更多人工智能治理的原因之一是代理人工智能已经开始部署。
许多组织（包括 ServiceNow）正在部署代理框架为人工智能提供更多自主能力。巴恩斯指出，随着人工智能代理的自主性增强，更需要强有力的治理、控制和人工监督，以确保系统按预期运行并在可接受的参数范围内。
ServiceNow 提供的治理工具和工作流程旨在帮助企业管理风险并保持对这些更加自主的人工智能系统的必要控制水平。
企业AI治理与幻觉的交集
企业采用的主要挑战是幻觉风险。治理本身并不是该挑战的答案，但它是所需解决方案的组成部分。
幻觉是一个全行业关注的问题，并且会以某种方式影响所有生成式人工智能模型。ServiceNow 正在采取多层次的方法来减轻幻觉。该方法包括微调语言模型，使其更加专注于提取信息而不是生成新信息。
治理是帮助降低风险的另一个关键方面。新的 Now Assist Analysis Guardian 工具现在还将提供额外的一层保护，防止幻觉，分析人工智能输出。Barnes 表示，ServiceNow 的一个关键目标是确保幻觉不会成为企业人工智能部署的“阻碍”，而是被视为可以通过平台中的工具解决的风险。
企业人工智能将如何帮助配置管理数据库部署
配置管理数据库 (CMDB) 是 IT 运营管理的基石。CMDB 系统管理整个企业使用的系统、软件和配置的库存。
作为今天的 ServiceNow 更新的一部分，还有一个新的 Now Assist for CMDB 功能，它带来了人工智能的力量。Barnes 解释说，新功能并不直接解决 CMDB 的填充或发现问题，这通常是通过其他方式完成的，而是侧重于提高用户与 CMDB 数据交互的生产力。
CMDB 分析功能是 ServiceNow 更广泛战略的一部分，该战略旨在为客户组织内的不同角色提供人工智能驱动的生产力增强。CMDB 分析功能与 AI 治理框架集成，确保此 AI 驱动工具的部署和使用受到相同的治理流程和控制。这有助于解决 IT 运营团队在关键系统和数据中部署基于人工智能的工具时可能遇到的信任和运营限制。
“你越依赖人工智能工具，你就越需要确保它对于你正在做的事情是值得信赖的，”巴恩斯说。