让您的企业在 GenAI 竞赛中领先 - CIO

2024-09-27 04:32:20 英文原文

到目前为止,许多企业领导者都了解生成式人工智能 (GenAI) 如何能够极大地重塑市场和行业,并正在迅速采取行动以利用其变革力量。但即使采用率激增,很少有公司能够成功利用该工具取得领先地位。

这是因为利用 GenAI 大型语言模型 (LLM) 仍然存在重大挑战。一是 GenAI 固有的安全和合规风险。为了做出准确的、数据驱动的决策,企业需要向大语言模型提供专有信息,但这存在将敏感数据暴露给未经授权方的风险。

另一个担忧是随着 GenAI 的兴起而出现的技能和资源差距。从前期投资成本到管理和支持 GenAI 所需的人才,这些需求可能会给企业带来损失。考虑到这些限制,他们必须谨慎地走 GenAI 路线,同时制定可衡量的策略以实现回报最大化。

话虽如此,GenAI 的战略方法仍然是必要的。如果没有人来试点 GenAI 之旅,依赖该工具的项目和业务功能可能会超出预算并超出其价值。

超越现有基础设施

首先,企业可以利用专为 GenAI 打造的新技术。作为 GenAI 革命的核心,人工智能工厂将为企业提供人工智能模型的构建模块和运营框架,并生成开发真正尖端人工智能解决方案所需的可操作情报和新鲜内容。

<支撑这一点的是人工智能优化的基础设施,即工厂本身的第一层(或具体细节)。这一层是企业提升GenAI战略的基础。以与 NVIDIA 合作的戴尔 AI Factory 为例,该工厂建立在专为 AI 打造的广泛产品组合之上:

  • 具有加速和多种 GPU 选项的服务器
  • AI突破 GenAI 部署限制的 PC 和工作站
  • 可最大限度提高数据保护和可扩展性的存储选项
  • 满足 GenAI 工作负载性能需求的网络解决方案
  • 数据人工智能管理工具,可加快模型调整和结果
  • 定制订阅和即服务解决方案

创建由 GenAI 驱动的定制数字助理

随着公司在坚实的 GenAI 基础上站稳脚跟,他们可以查看多个用例,而不仅仅是用标准答案回答问题或从数据中提取见解。GenAI 路线图的关键是数字助理。与传统的聊天机器人不同,数字助理可以理解自然对话和上下文以及非语言提示。通过提供个性化的客户体验,他们可以解决简单的查询并在产品中进行导航。

戴尔科技集团通过可扩展的模块化架构更进一步,让企业可以定制一系列由 GenAI 驱动的数字助理。这些经过预先测试和验证的蓝图被称为戴尔数字助理验证设计,基于高性能戴尔和 NVIDIA 基础设施,并使用检索增强生成 (RAG) 等尖端技术来实现安全信息检索和 2D/3D 渲染能力。他们帮助公司轻松部署该工具,减少设计、规划和测试数字助理所花费的时间。

交付企业就绪、GenAI 支持的代码

例如内容、代码可以自动生成提示,让开发者将重复的编码任务委托给AI。然而,在没有考虑监督、安全性或合规性的情况下生成代码会增加不合规的可能性以及知识产权和版权风险。

规避这些风险的一种方法是在标准化的同时在 GenAI 系统中定义护栏最佳实践。例如,组织可以将理想的代码示例和首选流程实施到代码编写模型中。他们还可以根据其本地环境定制人工智能辅助编码解决方案,为公司提供可扩展性和灵活性,以增强开发流程。

利用合成数据做出数据驱动的决策

鉴于数据通常具有敏感性和受监管的性质,安全性和合规性问题可能会阻碍许多企业将其信息输入大语言模型。人工生成但高度真实的合成数据可以帮助他们建模和研究新的见解,特别是在现有数据保密或不足的情况下,例如网络攻击。这些还可以与现有数据集结合使用,以提供业务需求和机会的全面预测。

重新布线基础设施以优化 GenAI 投资的公司让我们一睹 GenAI 的潜力。Taboola 是一个内容推荐平台,它运行了一个 AI 解决方案,使他们能够每天向 5 亿唯一用户提供 40 亿个精确定位的网页。这是通过利用 10,000 多台专为需要大量高性能、可扩展计算能力的 AI 工作负载而设计的 Dell PowerEdge 服务器来完成的。

还有 Northwestern Medicine,它提高了其医疗保健服务的效率。GenAI 解决方案可以运行多模式 LLM,由配备 8 个 NVIDIA H100 GPU 的四台 Dell PowerEdge XE9680 服务器组成的集群提供支持,并部署在本地。结果,该公司将放射学性能提高了 40%,并实现了预测性主动管理,从而提高了医疗保健的安全性、质量和一致性。

了解有关戴尔 AI Factory 如何简化您的医疗保健的更多信息。今天的 GenAI 旅程就到这里。

关于《让您的企业在 GenAI 竞赛中领先 - CIO》
暂无评论

摘要

到目前为止,许多企业领导者都了解生成式人工智能 (GenAI) 如何能够极大地重塑市场和行业,并正在迅速采取行动以利用其变革力量。为了做出准确的、数据驱动的决策,企业需要向大语言模型提供专有信息,但这可能会将敏感数据暴露给未经授权的各方。如果没有人来试点 GenAI 之旅,依赖该工具的项目和业务功能可能会超出预算并超出其价值。规避这些问题的一种方法是在 GenAI 系统中定义护栏,同时标准化最佳实践。这是通过利用 10,000 多台 Dell PowerEdge 服务器来实现的,这些服务器专为需要大量高性能、可扩展计算能力的 AI 工作负载而设计。