关于作者
经过|
Dashveenjit 是一位经验丰富的科技和商业记者，决心每天为在线和印刷品寻找和制作故事。她也是一位经验丰富的议会记者，偶尔也会关注生活方式和艺术行业。
人工智能平台提供商 Clarifai 推出了一种新的计算编排功能，有望帮助企业在任何计算环境中优化其人工智能工作负载、降低成本并避免供应商锁定。
于 2024 年 12 月 3 日宣布，公共预览版让组织可以通过统一的控制平面来编排人工智能工作负载，无论这些工作负载是在云端、本地还是在气隙基础设施中运行。该平台可以与任何人工智能模型和硬件加速器（包括 GPU、CPU 和 TPU）配合使用。
“Clarifai 始终处于领先地位，拥有十多年的经验，通过全套 AI 工具来创建自定义 AI 工作负载，支持大型企业和关键任务政府的需求，”说马特·泽勒 (Matt Zeiler)，Clarifai 创始人兼首席执行官。“现在，我们正在开放内部构建的功能，以优化计算成本，同时扩大规模以服务数百万个模型。”
该公司声称，其平台可以通过模型打包优化将计算使用量减少 3.7 倍，同时支持每秒超过 160 万个推理请求，可靠性高达 99.9997%。据 Clarifai 称，优化可能会降低 60-90% 的成本，具体取决于配置。
计算编排平台的功能包括：
- 通过自动化资源管理来优化成本，包括模型打包、依赖关系简化和可自定义的自动缩放选项，这些选项可以将模型副本和计算节点缩放到零，
- 部署灵活性任何硬件供应商，包括云、本地、气隙和 Clarifai SaaS 基础设施，
- 与 Clarifai 的 AI 平台集成，用于数据标记、培训、评估、工作流程和反馈，
- 安全功能允许部署到客户 VPC 或本地 Kubernetes 集群中，而无需开放入站端口、VPC 对等互连或自定义 IAM 角色。
该平台是为了解决 Clarifai 客户的人工智能性能和成本问题而诞生的。“如果我们有办法从整体上考虑这一问题，并比较我们的本地成本与云成本，然后能够以成本为基础跨环境进行协调，那将非常有价值，”指出正如 Clarifai 公告中所引用的那样，是一位客户。
计算编排功能建立在 Clarifai 现有的 AI 平台之上，该公司表示，该平台已在计算机视觉、语言和音频 AI 领域处理了超过 20 亿次操作。该公司报告称，关键应用程序保持着 99.99% 以上的正常运行时间和 24/7 可用性。
计算编排功能目前可在公共预览版中使用。有兴趣测试该平台的组织应联系 Clarifai 获取访问权限。