搭载全新 GB10 超级芯片的 NVIDIA 项目 DIGITS 首次亮相,成为全球最小的 AI 超级计算机,能够运行 200B 参数模型
CES·NVIDIA 今天推出了 NVIDIA®Project DIGITS 是一款个人 AI 超级计算机,为全世界的 AI 研究人员、数据科学家和学生提供 NVIDIA Grace Blackwell 平台的强大功能。
DIGITS 项目采用全新 NVIDIA GB10 Grace Blackwell Superchip,为原型设计、微调和运行大型 AI 模型提供千万亿次 AI 计算性能。
借助 Project DIGITS,用户可以使用自己的桌面系统开发模型并运行推理,然后将模型无缝部署在加速云或数据中心基础设施上。
– 人工智能将成为每个行业每个应用程序的主流。通过 DIGITS 项目,Grace Blackwell 超级芯片将带给数百万开发者。”NVIDIA 创始人兼首席执行官黄仁勋 (Jensen Huang) 说道。“在每个数据科学家、人工智能研究人员和学生的办公桌上放置一台人工智能超级计算机,使他们能够参与并塑造人工智能时代。”
GB10 超级芯片提供千万亿次节能 AI 性能
GB10 Superchip 是一款基于 NVIDIA Grace Blackwell 架构的片上系统 (SoC),可在 FP4 精度下提供高达 1 petaflop 的 AI 性能。
GB10 具有NVIDIA 布莱克韦尔 GPU配备最新一代 CUDA® 内核和第五代张量核心,通过连接NVLink®-C2C与高性能 NVIDIA Grace™ CPU 的芯片间互连,其中包括 20 个采用 Arm 架构构建的高能效内核。联发科技是基于 Arm 的 SoC 设计的市场领导者,合作设计了 GB10,为其提供一流的功效、性能和连接性做出了贡献。
GB10 Superchip 使 Project DIGITS 仅使用标准电源插座即可提供强大的性能。每个项目 DIGITS 均配备 128GB 统一一致内存和高达 4TB 的 NVMe 存储。借助超级计算机,开发人员可以运行多达 2000 亿参数的大型语言模型,以增强人工智能创新。此外,使用NVIDIA ConnectX®通过联网,两台 Project DIGITS AI 超级计算机可以连接起来运行多达 4050 亿个参数的模型。
Grace Blackwell 人工智能超级计算触手可及
借助 Grace Blackwell 架构,企业和研究人员可以在运行基于 Linux 的 NVIDIA DGX 操作系统的本地 Project DIGITS 系统上进行原型设计、微调和测试模型,然后将其无缝部署到NVIDIA DGX 云⑤、加速云实例或数据中心基础设施。
这使得开发人员可以在 DIGITS 项目上构建人工智能原型,然后使用相同的 Grace Blackwell 架构和NVIDIA 人工智能企业软件平台。
DIGITS 项目用户可以访问广泛的 NVIDIA AI 软件库进行实验和原型设计,包括 NVIDIA NGC 目录和 NVIDIA 开发者门户中提供的软件开发套件、编排工具、框架和模型。开发人员可以使用以下方式微调模型NVIDIA NeMo❖ 框架,加速数据科学NVIDIA RAPIDS库并运行常见框架,例如 PyTorch、Python 和 Jupyter Notebook。
为了构建代理人工智能应用程序,用户还可以利用NVIDIA 蓝图和英伟达NIM微服务,可通过 NVIDIA 开发者计划进行研究、开发和测试。当 AI 应用程序准备好从实验环境转移到生产环境时,NVIDIA AI Enterprise 许可证可提供 NVIDIA AI 软件的企业级安全性、支持和产品版本。
可用性
DIGITS 项目将于 5 月由 NVIDIA 和顶级合作伙伴发售,起价 3,000 美元。报名今天的通知。