英语轻松读发新版了,欢迎下载、更新

NVIDIA 让 Grace Blackwell 出现在每张办公桌上,让每位 AI 开发人员触手可及

2025-01-07 04:13:16 英文原文

搭载全新 GB10 超级芯片的 NVIDIA 项目 DIGITS 首次亮相,成为全球最小的 AI 超级计算机,能够运行 200B 参数模型

CES·NVIDIA 今天推出了 NVIDIA®Project DIGITS 是一款个人 AI 超级计算机,为全世界的 AI 研究人员、数据科学家和学生提供 NVIDIA Grace Blackwell 平台的强大功能。

DIGITS 项目采用全新 NVIDIA GB10 Grace Blackwell Superchip,为原型设计、微调和运行大型 AI 模型提供千万亿次 AI 计算性能。

借助 Project DIGITS,用户可以使用自己的桌面系统开发模型并运行推理,然后将模型无缝部署在加速云或数据中心基础设施上。

– 人工智能将成为每个行业每个应用程序的主流。通过 DIGITS 项目,Grace Blackwell 超级芯片将带给数百万开发者。”NVIDIA 创始人兼首席执行官黄仁勋 (Jensen Huang) 说道。“在每个数据科学家、人工智能研究人员和学生的办公桌上放置一台人工智能超级计算机,使他们能够参与并塑造人工智能时代。”

GB10 超级芯片提供千万亿次节能 AI 性能
GB10 Superchip 是一款基于 NVIDIA Grace Blackwell 架构的片上系统 (SoC),可在 FP4 精度下提供高达 1 petaflop 的 AI 性能。

GB10 具有NVIDIA 布莱克韦尔 GPU配备最新一代 CUDA® 内核和第五代张量核心,通过连接NVLink®-C2C与高性能 NVIDIA Grace™ CPU 的芯片间互连,其中包括 20 个采用 Arm 架构构建的高能效内核。联发科技是基于 Arm 的 SoC 设计的市场领导者,合作设计了 GB10,为其提供一流的功效、性能和连接性做出了贡献。

GB10 Superchip 使 Project DIGITS 仅使用标准电源插座即可提供强大的性能。每个项目 DIGITS 均配备 128GB 统一一致内存和高达 4TB 的 NVMe 存储。借助超级计算机,开发人员可以运行多达 2000 亿参数的大型语言模型,以增强人工智能创新。此外,使用NVIDIA ConnectX®通过联网,两台 Project DIGITS AI 超级计算机可以连接起来运行多达 4050 亿个参数的模型。

Grace Blackwell 人工智能超级计算触手可及
借助 Grace Blackwell 架构,企业和研究人员可以在运行基于 Linux 的 NVIDIA DGX 操作系统的本地 Project DIGITS 系统上进行原型设计、微调和测试模型,然后将其无缝部署到NVIDIA DGX 云⑤、加速云实例或数据中心基础设施。

这使得开发人员可以在 DIGITS 项目上构建人工智能原型,然后使用相同的 Grace Blackwell 架构和NVIDIA 人工智能企业软件平台。

DIGITS 项目用户可以访问广泛的 NVIDIA AI 软件库进行实验和原型设计,包括 NVIDIA NGC 目录和 NVIDIA 开发者门户中提供的软件开发套件、编排工具、框架和模型。开发人员可以使用以下方式微调模型NVIDIA NeMo❖ 框架,加速数据科学NVIDIA RAPIDS库并运行常见框架,例如 PyTorch、Python 和 Jupyter Notebook。

为了构建代理人工智能应用程序,用户还可以利用NVIDIA 蓝图英伟达NIM微服务,可通过 NVIDIA 开发者计划进行研究、开发和测试。当 AI 应用程序准备好从实验环境转移到生产环境时,NVIDIA AI Enterprise 许可证可提供 NVIDIA AI 软件的企业级安全性、支持和产品版本。 

可用性
DIGITS 项目将于 5 月由 NVIDIA 和顶级合作伙伴发售,起价 3,000 美元。报名今天的通知。

关于《NVIDIA 让 Grace Blackwell 出现在每张办公桌上,让每位 AI 开发人员触手可及》的评论


暂无评论

发表评论