宣布对 Azure AI 中的新模型进行微调和支持 - Microsoft

2024-09-27 16:00:00 英文原文

人工智能彻底改变了我们在各个行业解决问题和发挥创造力的方式。从生成逼真的图像到制作类似人类的文本,这些模型显示出了巨大的潜力。然而,要真正利用它们的力量,定制是关键。我们宣布 Microsoft Azure AI 的新自定义更新,包括:

  • Azure OpenAI 服务 GPT-4o 和 GPT-4o mini 微调功能全面上市。
  • 新模型包括 Phi-3.5-MoE、通过无服务器端点的 Phi-3.5-vision、Metas Llama 3.2、沙特数据和人工智能管理局 (SDAIA) 的 ALLaM-2-7B,以及 Cohere 更新的 Command R 和 Command R。
  • 扩展我们企业承诺的新功能,包括即将推出的 Azure OpenAI 数据区。
  • 新的负责任的 AI 功能,包括纠正(Azure AI 内容安全接地检测功能中的一项功能)、对评估输出的质量和安全性,以及代码的受保护材料检测。
  • 全面的网络隔离和专用端点支持,用于在 Azure AI Studio 中构建和自定义生成式 AI 应用。

利用 Azure AI 释放定制 LLM 的力量

LLM 的定制已成为我们的用户获得一流生成式 AI 模型的力量的越来越流行的方式,并结合了专有数据和领域专业知识。微调已成为创建自定义 LLM 的首选:比从头开始训练模型更快、更便宜且更可靠。

Azure AI 很自豪能够提供工具,使客户能够跨 Azure 微调模型OpenAI 服务、Phi 系列模型以及模型目录中的 1,600 多个模型。今天,我们很高兴地宣布在 Azure OpenAI 服务上全面推出 GPT-4o 和 GPT-4o mini 微调功能。成功预览后,这些模型现在完全可供客户进行微调。我们还通过 Phi-3 系列模型实现了对 SLM 的微调。

无论您是针对特定行业进行优化、增强品牌声音一致性,还是提高不同语言、GPT-4o 和 GPT- 的响应准确性4o mini 提供强大的解决方案来满足您的需求。

Lionbridge 是翻译自动化领域的领导者,是 Azure OpenAI 服务的早期采用者之一,并利用微调进一步提高翻译准确性.

在 Lionbridge,我们多年来一直在跟踪可用翻译自动化系统的相对性能。作为GPT的早期大规模采用者,我们对几代GPT模型进行了微调,取得了非常令人满意的结果。我们很高兴现在将我们的微调模型组合扩展到 Azure OpenAI 服务上新推出的 GPT-4o 和 GPT-4o mini。我们的数据显示,在西班牙语、德语和日语等语言中,经过微调的 GPT 模型在翻译准确性方面优于基线 GPT 和神经机器翻译引擎。随着这些先进模型的普遍推出,我们期待进一步增强我们的人工智能驱动的翻译服务,从而更好地符合客户的特定术语和风格偏好。Marcus Casal,Lionbridge 首席技术官。

Nuance 是一家 Microsoft 公司,自 1996 年以来一直是人工智能医疗保健解决方案的先驱,从第一个用于医疗保健的临床语音到文本自动化开始。如今,Nuance 继续利用生成式人工智能来改变患者护理。Nuance 临床解决方案总经理 Anuj Shroff 强调了生成式 AI 和定制的影响:

Nuance 很早就认识到微调 AI 模型的潜力,可以为以下领域提供高度专业化和准确的解决方案:我们的医疗保健客户。随着 GPT-4o 和 GPT-4o mini 在 Azure OpenAI 服务上的全面推出,我们很高兴能够进一步增强我们的 AI 驱动服务。根据特定工作流程定制 GPT-4os 功能的能力标志着人工智能驱动的医疗保健解决方案的重大进步 Nuance 临床解决方案总经理 Anuj Shroff。

对于专注于低成本、小型化的客户计算足迹和边缘兼容性,Phi-3 SLM 微调被证明是一种有价值的方法。可汗学院最近发表了一篇研究论文,表明与其他模型相比,他们的 Phi-3 微调版本在发现和修复学生数学错误方面表现更好。

定制质量平台

微调不仅仅是训练模型。从数据生成到模型评估,以及支持将自定义模型扩展到生产工作负载,Azure 提供了一个统一的平台:通过强大的 LLM 生成数据、AI Studio 评估、用于微调模型的内置安全护栏等等。作为现已普遍推出的 GPT-4o 和 4o-mini 的一部分,我们最近分享了用于检索增强微调的端到端蒸馏流程,展示了如何利用 Azure AI 来实现自定义的、适应领域的模型。

我们将于 2024 年 10 月 17 日举办网络研讨会,了解开始微调的基本要素和实用秘诀。我们希望您能加入我们以了解更多信息。

扩大模型选择

Azure AI 模型目录拥有超过 1,600 个模型,提供最广泛的模型选择来构建生成式 AI 应用程序。Azure AI 模型现在也可通过 GitHub Models 获取,因此开发人员可以快速构建原型并评估适合其用例的最佳模型。

我很高兴分享新模型的可用性,包括:

  • Phi-3.5-MoE-instruct,专家混合 (MoE) 模型和 Phi-3.5-vision-instruct 通过无服务器端点以及 GitHub 模型。Phi-3.5-MoE-instruct 拥有 16 位专家和 6.6B 主动参数,提供多语言能力、有竞争力的性能和强大的安全措施。Phi-3.5-vision-instruct(4.2B 参数)现已通过托管计算提供,支持跨多个输入图像进行推理,开辟了新的可能性,例如检测图像之间的差异。
  • Metas Llama 3.2 11B Vision Instruct 和Llama 3.2 90B 视觉指导。这些模型是 Llamas 首个多模式模型,可通过 Azure AI 模型目录中的托管计算获得。通过无服务器端点进行推理即将推出。
  • SDAIAs ALLaM-2-7B。这个新模型旨在促进阿拉伯语和英语的自然语言理解。ALLaM-2-7B 拥有 70 亿个参数,旨在成为需要高级语言处理能力的行业的关键工具。
  • 更新了 Command R 和 Cohere 的 Command R,可在 Azure AI Studio 和 Github 模型中使用。最新版本以其在带引文的检索增强生成 (RAG)、10 多种语言的多语言支持以及工作流程自动化方面的专业知识而闻名,可提供更高的效率、可负担性和用户体验。它们在编码、数学、推理和延迟方面都有改进,其中 Command R 是迄今为止最快、最高效的模型。

自信地实现 AI 转型

早些时候本周,我们推出了可信赖的人工智能,这是一组帮助构建安全、安全和私密的人工智能的承诺和功能。数据隐私和安全是可信人工智能的核心支柱,是设计和实施新解决方案的基础。为了帮助满足法规和合规性标准,Azure OpenAI 服务(Azure 服务)提供了强大的企业控制,以便组织可以充满信心地进行构建。我们继续投资扩大企业控制,最近宣布即将推出 Azure OpenAI 数据区,以进一步增强数据隐私和安全功能。借助基于 Azure OpenAI 服务数据处理和存储选项现有优势的新数据区功能,Azure OpenAI 服务现在为客户提供全球、数据区和区域部署之间的选项,允许客户在 Azure 中静态存储数据所选择的资源区域。我们很高兴能尽快将其带给客户。

此外,我们最近宣布在 Azure AI Studio 中实现全面网络隔离,并通过以下方式支持存储专用端点、Azure AI 搜索、Azure AI 服务和 Azure OpenAI 服务托管虚拟网络 (VNET)。开发人员还可以使用聊天平台中的专用端点安全地与其企业数据聊天。网络隔离可防止专用网络外部的实体访问其资源。为了获得额外的控制,客户现在可以启用 Entra ID,以便在 Azure AI Studio 中对 Azure AI 搜索、Azure AI 服务和 Azure OpenAI 服务连接进行无凭据访问。这些安全功能对于企业客户至关重要,特别是那些使用敏感数据进行模型微调或检索增强生成 (RAG) 工作流程的受监管行业的客户。

Azure AI 内容安全

为以下目标构建强大的护栏:生成式人工智能

除了隐私和安全之外,安全也是首要考虑因素。作为我们负责任的 AI 承诺的一部分,我们于 2023 年推出了 Azure AI 内容安全,以实现生成式 AI 护栏。在此工作的基础上,Azure AI 内容安全功能(包括提示屏蔽和受保护材料检测)在 Azure OpenAI 服务中默认启用并免费提供。此外,这些功能可以用作我们模型目录中包含的任何基础模型的内容过滤器,包括 Phi-3、Llama 和 Cohere。我们还宣布了 Azure AI 内容安全的新功能,包括:

  • 在用户看到幻觉问题之前帮助实时修复幻觉问题的修正功能,现已提供预览版。
  • 受保护的材料代码检测可帮助检测预先存在的内容和代码。此功能可帮助开发人员探索 GitHub 存储库中的公共源代码,促进协作和透明度,同时做出更明智的编码决策。

最后,我们宣布了新的评估,以帮助客户评估代码的质量和安全性。输出以及他们的 AI 应用程序输出受保护材料的频率。

开始使用 Azure AI

作为产品构建者,为客户带来新的 AI 创新(包括模型、定制)是令人兴奋和谦卑的和安全功能,并了解客户正在推动的真正变革。无论是 LLM 还是 SLM,定制生成式 AI 模型都有助于提高其潜力,使企业能够应对特定的挑战并在各自领域进行创新。立即使用 Azure AI 创造未来。

其他资源

  • 开始使用 Azure OpenAI 服务。
  • 详细了解如何使用 Azure OpenAI 进行微调服务。
  • 开始使用 Phi-3 进行微调。
关于《宣布对 Azure AI 中的新模型进行微调和支持 - Microsoft》
暂无评论

摘要

人工智能彻底改变了我们在各个行业解决问题和发挥创造力的方式。Nuance 临床解决方案总经理 Anuj Shroff 强调了生成式 AI 和定制的影响:Nuance 很早就认识到微调 AI 模型为我们的医疗保健客户提供高度专业化和准确的解决方案的潜力。随着 GPT-4o 和 GPT-4o mini 在 Azure OpenAI 服务上的全面推出,我们很高兴能够进一步增强我们的 AI 驱动服务。我们很高兴能尽快将其带给客户。我们还宣布了 Azure AI 内容安全的新功能,包括:帮助在用户看到幻觉问题之前实时修复幻觉问题的修正功能,现已提供预览版。