从LLM到SLM再到SAM，代理如何重新定义人工智能
我们相信企业价值创造的人工智能重心正在从大型语言模型转移到小语言模型，其中 S 不仅代表小，还包含一个小型、专业、安全和主权模型的系统。
此外，我们看到 LLM 和 SLM 不断发展成为代理，因此 SAM 小动作模型。我们认为，这些 S 模型的集合与新兴的数据协调层相结合，将使代理系统能够协同工作并创造高影响力的业务成果。这些多代理系统将彻底重塑软件行业，更具体地说，为全球组织释放新的生产力范式。
在这篇重大分析中，我们将向您介绍生成式人工智能和大语言模型的最新状况来自我们合作伙伴企业技术研究的一些支出数据。我们还将重新审视我们的前提，即 SLM 的长尾将以多个代理形式出现的新的高价值组件，这些代理在业务目标和关键指标的指导下协同工作。
让我们首先回顾一下前提我们一年多前提出了生成人工智能的幂律。这个概念是，与其他幂律类似，新一代人工智能市场将随着专业模型的长尾而发展。在此示例中，模型的大小位于 Y 轴上，模型特异性为长尾。与经典幂律的区别在于，开源运动和第三方模型会将红色所示的躯干向上拉至右侧。我们将 Meta Platforms Inc. 标为红色，原因很快就会明朗，但这一情况正在如我们预期的那样发展，尽管进展缓慢，企业正在寻求投资回报，他们正在降低投资回报预期，并意识到人工智能卓越并不重要。就像对 OpenAI 模型进行一系列应用程序编程接口调用一样简单。
调查数据显示 Metas Llama 在采用速度方面处于领先地位
我们在上一张幻灯片中强调 Meta 的原因是，正如我们预测的那样，开源势头正在对市场产生巨大影响。下面来自 ETR 的数据在纵轴上显示了净得分或支出动量，在 X 轴上显示了 1,600 多名信息技术决策者的数据集中的帐户重叠。重叠是市场渗透率的代表。40% 处的红线表明支出速度极高。
让我们从 Llama 开始。请注意左上角的表格插入。这是 ETR 调查的初步数据，该调查现已在现场进行，将于 10 月份结束。我们获得了 ETR 的特别许可来使用这些数据。看看元。凭借 74% 的净得分，它现已超越 OpenAI 和微软公司，成为支出势头领先的大语言模型。对于 Llama 等表面上免费的开源产品，调查正在衡量采用情况，尽管我们注意到组织将以劳动力（技能）、基础设施和服务的形式支出来部署开源模型。
我们在图中用红色圆圈将这些公司和同类群体进行了分组。那么让我们从 Meta 和 Anthropic 开始。这里有开源和第三方代表，正如我们之前所说，它们将幂律的躯干拉到右侧。
在最左边的圆圈中，我们展示了早期的人工智能以及 SparkCognition Inc.、DataRobot Inc.、C3 AI Inc.、Dataiku Inc. 和 H2O.ai Inc. 等机器学习创新者。在 Y 轴下方，但随着市场渗透率的加深，我们展示了此处代表的大型传统公司IBM Corp. 与 Watson 和 Oracle Corp. 都是人工智能领域的参与者。
然后我们展示了现代数据堆栈的两个代理，Databricks Inc. 和 Snowflake Inc.，它们也在游戏中。接下来，AWS 和谷歌正在与右上角的微软和 OpenAI 争夺第二名的地位，这两家公司推动了新一代人工智能运动。它们确实是破纪录的。
以下几点值得注意：
我们的研究表明，企业在人工智能和机器学习方面的投资大幅增加。主要亮点包括：
- 投资增长：根据ETR调查数据，过去一年企业对人工智能和机器学习的投资从34%增加到50%，大幅增长16个百分点.
- 高支出速度：正如我们之前报道的那样，人工智能和机器学习在所有技术类别中的支出速度最高，甚至超过了容器技术和机器人自动化。
- 企业承诺：我们认为，这一趋势凸显了企业在构建或采购自己的人工智能模型方面做出的巨大承诺。
我们相信，像 Metas Llama 3.1 这样的模型，特别是 405B 模型，已经达到了与 GPT-4 相当的前沿类别。其他观察结果包括：
- 主要用例：在过去 12 个月中，生成式 AI 最切实的用例出现在客户服务和软件开发中。
- 采用挑战：由于将多个组件集成到一个紧密结合的系统中的复杂性，许多组织正在努力从试点项目过渡到全面生产，这是主流公司通常没有能力应对的挑战。
- ISV 的角色：我们希望独立软件供应商能够通过将这些组件整合到他们的系统中来弥补这一差距，从而提高人工智能代理的采用率。
总而言之，对人工智能和机器学习的加速投资反映了战略转变企业之间正在寻求先进的人工智能功能，ISV 准备通过集成解决方案促进广泛采用。
Gen AI 资金继续从其他预算中窃取
让我们换个话题，谈谈人工智能的现状一代人工智能支出。下图显示了最近 ETR 对 gen AI 深入调查的最新数据。我们之前曾分享过，大约 40% 到 42% 的账户通过从其他预算中窃取资金来资助新一代人工智能计划。目前这一数字已高达45%。最新数据的新维度是，业务线是资金的主要贡献者，如下所示。资金来自业务应用程序、非 IT 部门、外包服务和营销预算。
关键是业务线在这场游戏中占有重要地位，这才是真正价值得到认可的地方。
p>
投资回报预期不太乐观
我们想要探索的另一个向量是投资回报率预期。最初，当 ETR 开始围绕一代 AI 投资回报率进行调查时，人们对更快的回报的期望要乐观得多，如下所示。
请注意，黄色条在一年多的时间里如何从 14% 的低点跃升起来今年 4 月（灰色条），当时人们更加乐观，最常见的反应是不到 12 个月。如今，调查基数中的 14% 几乎翻了一番，达到 25%。此外，期望 12 个月内快速获得投资回报的客户比例也显着下降。我们预计，随着组织寻求更大的回报和更高的净现值，这种情况将持续下去。
我们注意到以下几点：
我们的结论是，当前阶段的技术转型正在经历这是典型的幻灭期，炒作略高于现实，预期也变得更加平衡。我们相信，随着市场调整预期和策略，这种暂时的放缓将导致增长和采用率再次激增。
主要观察结果包括：
- 开源势头：Llama 等模型的采用率和速度不断增加是由开源背后的动力推动的。与具有先发优势的 OpenAI 和 Microsoft 的专有产品相比，定制能力、更高的透明度和更好的跨模型集成提供了更明显的优势。
- 对透明度和定制的需求：在我们看来，企业正在意识到人工智能模型更高水平的透明度和定制化的必要性。这引发了人们对提供此类功能的解决方案的更大兴趣，并对先行者提出了挑战。
- 投资回报率预期的变化：我们正在观察投资回报率时间表的变化。最初，组织对三到六个月内快速获得投资回报持乐观态度。然而，现在的期望已超过一年，这表明人工智能实施的方法更加现实。
我们相信，随着生成式人工智能作为一项功能集成到现有产品中，它将成为持续创新。引用 Clay Christensen 的话说，这可以增强现有公司的当前产品，而无需彻底转变其业务模式，从而使现有公司受益。
其他见解：
- 通过整合增加价值：我们认为，组织可以通过采用嵌入现有产品中的生成式人工智能功能来获得可观的增量价值，而不是投资从头开始构建定制的生成式人工智能系统。然而，当前的研究继续表明定制系统的实验水平很高。我们相信，随着时间的推移，这种趋势将会下降，嵌入式人工智能将成为主导模式。
- 人工智能作为通用增强器：我们认为，这个人工智能时代类似于互联网的影响，并且有潜力成为水涨船高，为各行业带来广泛利益。
总而言之，当前围绕人工智能投资回报率的保守主义是技术采用周期的自然组成部分。我们预计，随着组织利用开源模型并将生成式人工智能功能集成到现有产品中，人工智能投资和创新将持续强劲，从而带来显着的价值创造和全行业的进步。
未来的应用程序将采用包含多个功能的系统代理
让我们以我们之前围绕代理系统的研究为基础，展望未来。下面我们重新审视我们看到的新的多代理应用程序堆栈的框图。
在上图中，让我们继续往上看。从底部开始，我们展示了与操作和分析应用程序的双向连接。在堆栈中向上移动，我们展示了数据平台层，该层已因 Snowflake 和 Databricks 等而普及。在此之上，我们看到一个新的、正在出现的协调层，我们已经多次讨论过它，有时称为语义层。然后我们展示多个代理以及代理操作和编排模块。
很多人谈论单个代理。我们在这里讨论的是可以在自上而下的关键绩效指标和组织目标的指导下协同工作的多个代理。您可以在图中左上角看到树状结构。这里的整个想法是代理们协同工作，他们受到这些自上而下的目标的指导，但他们正在执行自下而上的计划来实现这些目标。
另一点是，与硬编码不同微服务中，这些代理群可以观察人类行为，而这些行为不一定是硬编码的。随着时间的推移，代理会学习并做出响应，创建新颖且更加高效的工作流程，从而成为业务的实时代表。
最后一点是，我们相信每个应用程序公司和每个数据公司都将不断发展引进自己的代理商。我们的期望是客户将能够部署这些代理并挖掘增量价值，无论是通过自然语言与企业数据通信，还是更轻松地在应用程序中构建工作流程。
但他们很快就会发现，他们只是加强现有的应用程序或自动化和分析数据的孤岛，并且提出了这个更广泛的框架，需要随着时间的推移逐渐发展，以实现端到端集成和自动化所带来的全部生产力价值。
双击协调层
在上图中，我们以红色突出显示了协调层。让我们用下图更全面地描述这一点。我们认为，智能、自适应系统的发展就像一座冰山，其中代理代表了水面上可见的一角，但实质的复杂性却隐藏在表面之下。我们相信，从语义设计过渡到智能自适应、受控设计对于有效授权这些代理至关重要。
该生态系统的关键组成部分包括：
- 数据和人工智能平台：该基础层由数据结构以及构建、管理和治理人工智能模型的功能组成。
- 大型语言模型：
- 核心角色：我们认为，LLM 是系统的核心和灵魂，容纳普遍适用的数据和信息。
- 定制和优化：如 Gen AI Power Law 中所述，企业越来越多地针对特定业务需求定制大语言模型。这些模型可以是：
- 在组织内自行采购。
- 开源且量身定制。
- 通过来自不同提供商的 API 访问公共或闭源。
- 小语言模型：
- 专业功能：SLM 不仅仅是较小的版本，而且是专业的、主权的和安全的。
- 生态系统协作：我们认为需要一个 SLM 与 LLM 合作并协作的生态系统，以实现增强系统的整体功能。
- 衍生作品：SLM 是从 LLM 发展而来的，并包含：
- 知识图：表示业务内的实体和关系。
- 因果模型：了解因果机制。
- 自我教育循环：当这些模型相互作用时，它们会进行自我教育，从而实现持续改进。LLM 通过 SLM 的输入变得更加智能，创建了模型的架构生态系统。
- 代理编排层：
- 该层支持编排和构建多网络代理，这些代理基于从 LLM 和 SLM 收集的情报进行操作。
我们相信整个系统会变得自学和自我完善。我们注意到这个协调层作为代理系统的关键推动者的重要性。这是我们看到现有 ISV（例如 Salesforce Inc.、Palantir Technologies Inc. 等）构建到其平台中的新知识产权。以及跨应用程序平台构建的第三方（例如 RelationalAI、EnterpriseWeb LLC 等）。
其他见解包括：
- 协同协作：
- 从历史上看，应用程序开发涉及数据建模和应用程序逻辑的不同角色，在不同的领域中运行。
- 我们认为，今天也存在类似的场景，其中因果层（数字孪生）业务状态）和代理（特定于任务的应用程序）必须协同工作。
- 代理需要业务状态的同步视图；否则，不同步的行动可能会破坏系统的一致性。
- 获取部落知识：
- 从理论上讲，该系统可以解决关键人员离职时组织流程专业知识的流失问题。
- 专业知识在系统中被捕获，允许领域专家在不依赖集中化的情况下构建代理或指标数据工程团队。
- 可以通过用自然语言表达规则来创建代理，将其与业务目标直接相关（例如减少客户流失），从而实现持续学习和优化。
- 从相关性转向因果性：
- 传统模型依赖于基于历史数据的统计相关性，适合静态环境。
- 我们相信，将因果关系纳入商业世界的动态变化，因为因果关系考虑概率如何随着变化而演变
- 专注于因果人工智能可以提升知识模型，并通过双向学习增强 SLM 和 LLM，从而更准确地反映现实世界的动态。
- 有机系统拟态：
- 整个生态系统模仿一个有机系统，学习和适应自然发生。
- 通过揭示复杂的因果驱动因素和关系，该系统使代理能够以更有组织、更智能的方式进行协作。
总之，过渡到由 LLM 和 SLM 协调生态系统支持的智能、自适应设计对于实现企业价值最大化至关重要。通过整合因果人工智能并培育有机的自学习系统，组织将能够释放更深入的见解，保留关键的专业知识并构建更有效的代理系统，以准确反映和适应现代企业的动态本质。
深入研究代理控制框架
这个新兴堆栈中的一个高价值资产就是我们所说的代理控制框架。在下一节中，我们将使用产品退货用例详细解释这一点。
我们之前的研究表明，大语言模型和智能代理的发展使我们更接近实现产品的实时数字表示我们将组织的愿景比作所有人的 Uber。我们相信，为了支持这一愿景，代理控制框架对于有效组织和管理人工智能代理至关重要。
关键的附加分析和见解如下：
- 代理的必要性控制框架：
- 组织代理：与 API 网关类似，代理控制框架以功能专业化的层次结构组织代理。
- 用例示例：消费者与客户服务 AI 代理就以下事项进行交互：产品退货。该代理旨在通过与编排代理进行通信来解决常规交互，而无需人工升级。该编排代理与订单管理和仓库系统代理连接，以管理库存和更换流程。
- 统一的业务层：专业代理利用统一的业务层，使用通用假设来推断库存、订单状态和物流。
- 增强的可靠性和性能：我们认为，跨多个供应商操作多代理系统需要代理使用有关业务状态的通用语言。这种协调提高了可靠性、精度和性能，将概率代理与传统符号代码区分开来。
- 人工智能中从相关性到因果性的转变：
- 当前人工智能的局限性：当今的人工智能依赖于概率统计、识别模式并根据历史数据进行预测，形成静态的世界观。
- 需要动态理解：我们认为人工智能必须适应理解因果关系，以反映企业和人类推理的动态本质。
- 实践中的因果关系：结合因果关系，人工智能不仅可以确定问题是否存在（例如，客户流失），还可以确定问题为何存在以及存在的原因行动可以最好地解决这个问题。
- 架构集成：在代理系统下结合 LLM、SLM、知识图和因果模型将随着时间的推移逐渐提高投资回报率。
- 代理商与商业模式的协同：
- 丰富的业务指标：当合并概率和因果关系时，业务指标之间的关系变得更加丰富和动态。
- 学习系统：在我们看来，人工智能系统应该充当学习系统，其中计划根据因果假设做出，对结果进行审查，并将学到的知识重新纳入业务模型中以实现持续改进。
- 根本原因分析示例：了解客户流失等问题的根本原因使人工智能能够推荐通过假设建模制定最佳行动方案，帮助企业在各种干预措施中做出决定。
- 协作代理生态系统：
- 动态基础：持续学习和动态基础对于支持代理和协调业务层之间的协同作用是必要的。
- 迭代的人机交互：代理运行假设场景并提出建议下一个最佳的行动或计划，然后由人类在迭代过程中进行评估以完善策略。
总而言之，我们认为开发代理控制框架并将因果关系整合到人工智能系统中是创建动态、自学习生态系统的关键步骤。通过协调业务模式并促进各种人工智能组件之间的协同作用，组织可以提高可靠性、精确度和性能，最终获得更深入的见解和更有效的决策。
生态系统参与者及其对未来创新的影响
最后讨论了我们看到的投资以推进这一愿景的公司和一些公司的例子。请注意，这不是一个包含所有公司的列表，而是协调层和代理控制框架内的公司样本。下面，我们从上一张图表中提取了代理堆栈，对其进行了简化，并叠加了我们看到的一些朝这个方向发展的参与者。
如今，业务逻辑、数据和元数据都被锁定在应用程序域内。我们看到这个未来系统中出现了两个创新载体，具体来说：1）现有 ISV 添加协调和代理控制框架功能；2）有志于创造超越单一应用领域的横向能力的科技公司。重要的是，这些领域并不相互排斥，因为我们看到一些公司试图同时做这两件事，我们将在下面更详细地描述。
关键分析和见解包括：
- 出现多层应用供应商：
- 协调和代理层：Microsoft、Oracle、Palantir、Salesforce 和 Celonis 等公司正在其应用程序域内积极构建协调层以及多代理编排和操作层。
- 基于现有数据平台：这些开发建立在当今的现代数据平台之上，例如 Snowflake、Databricks、Amazon Web Services、Google BigQuery 等。
- 专业公司的横向支持:
- 广泛的适用性：RelationalAI 和 EnterpriseWeb（协调层）等公司；UiPath Inc.、Workato Inc. 和其他公司（代理控制层）正在努力通过集成和新知识产权（Uber for all）使这些系统能够在任何应用程序领域水平扩展。
- 生态系统演变：我们相信，这些公司通过提供可供更广泛的企业使用的工具和平台，在发展生态系统方面发挥了重要作用。
- 数据库系统的根本性变化：
- 从关系数据库到图形数据库：统一的业务模型代表了传统数据平台的根本性技术转变。它从关系数据库转向图形数据库，将应用程序逻辑与数据库持久性和事务结合起来。
- 企业软件的新层：我们认为，这是自人工智能出现以来对企业软件最重要的补充。20 世纪 70 年代初的关系数据库。
- 添加人工智能代理：在这个新的数据库层之上，人工智能代理的集成增加了另一层复杂性和功能，标志着强大的行业转型。
- 主要参与者的纳入：
- Oracle 和 Salesforce 最近宣布的信号：Oracle（请参阅我们对 Oracle Cloud World 的分析）和 Salesforce（请参阅我们对 Dreamforce/Agentforce 的分析）等主要供应商的参与展示了现有平台公司如何追求这些目标开发，提供协调层，将知识图的表现力与 SQL 的查询简单性和灵活性相结合。这些领导者正在统一数据和元数据，并为未来的代理以受监管的方式采取行动奠定基础。
- 协调层的重要性：
- 企业的三个关键属性：
- 独特的业务语言：必须了解每个企业的独特语言，包括行业特定术语、区域细微差别和客户群体。
- 独特的工作流程和自动化：每个企业都有不同的自动化需求以及需要定制的流程。
- 信任和透明度：信任和透明度在不同组织中具有不同的含义，并受到公司政策和监管要求的影响。
- 推动开源增长：我们相信这些需求正在推动开源模型的快速增长，因为它们提供了满足独特业务需求所需的定制和灵活性。
- 三个关键企业属性：
- 开源作为催化剂：
- 人工智能市场的主导地位：开源模型的增长速度快于闭源替代方案。Hugging Face等平台已超过100万个模型，其中约80%至90%是开源的。
- 开源的优点：
- 定制：允许企业构建独特的语言模型、自动化系统和信任机制。
- 私有云部署：允许在私有云上运行模型，以增强主权和控制。
- 灵活性和标准：开源模型提供了更大的灵活性，并且有可能成为行业标准，正如之前的技术变革所见。
我们相信这种转变反映了过去的行业趋势，其中开源和开放标准已成为常态。统一的业务模型和人工智能代理的集成代表了企业软件的变革时期，开源解决方案在满足现代企业的独特需求方面发挥着关键作用。
总而言之，该行业正在经历一场变革。企业软件新基础层的出现推动了重大转型。我们认为，业务模型的协调和人工智能代理的添加将带来前所未有的能力和生产力提升，相对于当今部分自动化的企业来说，可能提高 10 倍。开源模型的采用进一步加速了这种演变，这些模型提供了当今企业所需的定制、灵活性和信任。我们预计开源和开放标准将再次成为行业现实，塑造人工智能和企业技术的未来格局。
图片：theCUBE Research
免责声明：所有有关以下内容的声明公司或证券严格来说是SiliconANGLE Media、Enterprise Technology Research、theCUBE上的其他嘉宾和客座作家所持有的信念、观点和意见。此类声明并非这些个人购买、出售或持有任何证券的建议。所呈现的内容不构成投资建议，不应作为任何投资决策的基础。您且只有您对自己的投资决策负责。
披露：《重大分析》中引用的许多公司都是 theCUBE 的赞助商和/或 Wikibon 的客户。这些公司或其他公司都没有对 Breaking Analysis 中发布的内容进行任何编辑控制或高级查看。
来自 SiliconANGLE 联合创始人 John Furrier 的消息：
您的投票的支持对我们很重要，它有助于我们保持内容免费。
下面的一键点击支持我们提供免费、深入且相关的内容的使命。
加入我们的 YouTube 社区
加入由 15,000 多名#CubeAlumni 专家组成的社区，其中包括 Amazon.com 首席执行官安迪·贾西 (Andy Jassy)、戴尔科技集团 (Dell Technologies) 创始人兼首席执行官迈克尔·戴尔 (Michael Dell)、英特尔首席执行官帕特·基辛格 (Pat Gelsinger) 以及更多名人和专家。
谢谢