英语轻松读发新版了,欢迎下载、更新

DIGITS 项目:NVIDIA 进军个人 AI 超级计算 |黑客午间

2025-01-12 14:23:03 英文原文

作者:David Deal@davidjdealSubscribe

当您拥有平台时,您就拥有了体验。这就是苹果在 iPhone 上投入如此多资金的原因。就是这样英伟达的目标是 项目数字,在 CES 2025 上亮相。

DIGITS 项目通过引入紧凑而强大的个人 AI 超级计算机,使先进 AI 计算的使用变得大众化。它的设计目的是让 AI 研究人员、数据科学家、学生甚至业余爱好者能够开发、原型化和微调 AI虽然专业人士以前可以在本地微调模型,但他们常常受到硬件限制、高成本或可扩展性问题的限制。DIGITS 项目通过以桌面形式提供计算能力来消除这些障碍。

正如 NVIDIA 创始人兼首席执行官黄仁勋所说: 在新闻稿中说, – 人工智能将成为每个行业每个应用程序的主流。通过 DIGITS 项目,Grace Blackwell Superchip 来到了数百万开发者手中。将人工智能超级计算机放在每位数据科学家、人工智能研究人员和学生的办公桌上,使他们能够参与并塑造人工智能时代。”

DIGITS 项目也是个人计算如何以 VR 设备似乎无法做到的方式推动人工智能融入消费者日常生活的先驱——也许不是今天,但比我们知道的要早。

DIGITS 项目如何改变人工智能开发

如今,专业人士可以使用配备高性能 GPU 的工作站或访问 AWS、Google Cloud 或 Azure 等基于云的平台来开发 AI 模型。但 DIGITS 项目将云平台的可扩展性与本地工作站的便利性结合在一起。Project DIGITS 的大小与 Mac Mini 相当,允许用户运行高性能人工智能任务,而无需大量基础设施。它为模拟环境或运行大型语言模型等任务提供了强大的处理能力。一次性 3,000 美元的投资可以取代持续的云费用,同时提供强大的 AI 功能。

目标受众和应用

DIGITS 项目不适合日常使用。其目的是:

  • AI开发人员和研究人员:它提供了一个不依赖共享服务器资源的训练和测试AI模型的平台。
  • 学术:价格(3,000 美元起)适合学术机构和(富裕的)个人学习者。
  • 企业和游戏开发人员:它为模拟环境或运行大型语言模型等任务提供强大的处理能力。

以下是一些展示其实际应用的实际用例:

大型语言模型的原型设计和微调

一家开发专门用于法律援助的聊天机器人的初创公司可以使用 Project DIGITS 来训练和微调具有 2000 亿个参数的大型语言模型 (LLM)。该团队可以在本地对模型进行原型设计,测试其回答复杂法律查询的准确性,然后将其部署到云基础设施以进行扩展。这消除了开发阶段对昂贵的云资源的需求,加速了创新,同时降低了开支。

机器人和自主系统

设计仓库自动化系统的机器人公司可以使用 DIGITS 来模拟和优化机器人车队的行为。通过在本地运行物理人工智能模型,他们可以实时测试导航算法、对象识别和任务协调。更快的迭代周期使公司能够在实际环境中部署机器人之前提高效率并减少错误。

医学研究和基因组学

致力于个性化癌症治疗的医学研究人员可以使用 DIGITS 来分析基因组数据并训练 AI 模型来预测患者对特定疗法的反应。该系统在本地处理大量数据集,从而实现快速实验。这加速了个性化医疗的突破,同时保证敏感数据在本地的安全。

使用生成式人工智能进行游戏开发

游戏工作室可以使用 DIGITS 通过生成 AI 模型创建逼真的非玩家角色 (NPC)。该系统可以训练能够根据玩家交互生成动态对话和逼真动画的模型。开发人员可以快速迭代角色设计和行为,而无需依赖外部计算资源,从而提高创造力和效率。

学术研究与教育

大学人工智能实验室可以通过 DIGITS 项目来教学生如何构建和部署高级机器学习模型。学生可以直接在系统上试验 PyTorch 或 TensorFlow 等框架,获得人工智能技术的实践经验。负担得起的高性能计算使人工智能教育民主化,为下一代创新者做好准备。

环境监测

环境科学家可以使用 DIGITS 来分析卫星图像并训练人工智能模型来检测森林砍伐或跟踪野生动物数量。该系统可以在本地处理图像数据,使现场研究人员能够在没有互联网连接的偏远地区工作。实时洞察通过更快、更准确地识别威胁来帮助保护工作。

主要特性和功能

当您深入了解 Project DIGIT 的关键特性和功能时,您就会明白 NVIDIA 如何希望通过一个平台来拥有体验 — 不仅仅是任何平台,而是一个强大到足以从服务器手中夺取 AI 开发控制权的平台。

Project DIGITS 的核心是 NVIDIA 的 GB10 Grace Blackwell Superchip,它结合了 20 核 Grace CPU 和 Blackwell GPU。该架构以 FP4 精度提供高达 1 petaflop 的 AI 计算性能,使其能够处理参数高达 2000 亿个的大规模 AI 模型。当两个单元连接在一起时,它们可以支持多达 4050 亿个参数的模型。

每个单元均包含 128 GB 统一内存和高达 4 TB NVMe 闪存,确保顺利处理复杂计算和大型数据集。

该系统运行 NVIDIA 基于 Linux 的 DGX 操作系统,并预装了完整的 NVIDIA AI Enterprise 软件堆栈。这包括用于与云或数据中心基础设施无缝集成的库、框架和编排工具。用户可以在本地进行原型设计并根据需要扩展其解决方案。

数字项目可以广泛传播吗?

DIGITS 项目并不面向普通消费者。它的功能(例如管理多达 2000 亿个参数的模型)对于网页浏览或基本生产力等休闲或日常任务来说是多余的。目前还没有直接迹象表明这种技术将很快为日常消费者所用。然而,随着人工智能继续渗透到日常生活的更多方面,它确实代表了朝着这个方向迈出的一步。原因如下:

技术轨迹

从历史上看,GPS 等高性能技术曾经只用于专门的用例,但现在已经渗透到消费产品中。同样,随着对支持人工智能的消费设备的需求增长,DIGITS 项目的缩小或简化版本可以使高级人工智能计算可用于日常任务。

边缘计算的演变

随着人工智能越来越多地集成到智能助手、自动驾驶汽车和个性化娱乐系统等消费设备中,对强大的本地边缘计算的需求将会增加。像 Project DIGITS 这样的设备展示了将高性能人工智能功能引入更小、易于访问的格式的可行性。

消费者的潜在用例

特别是随着创作者经济的兴起和工作的普遍去中心化,日常生活中更常见的用例并不牵强。

例如,业余电影制作人可以使用 DIGITS 使用生成式 AI 来处理高质量视频效果和动画。消除演员老化、创建虚拟背景或实时编辑镜头等任务可以在不依赖云服务的情况下成为可能,从而大大降低成本并允许更大的创作自由。

健身爱好者可能会利用 DIGITS 来个性化他们的健康之旅。通过分析可穿戴设备的生物识别数据,人工智能可以生成量身定制的锻炼程序、预测受伤风险并提出营养计划建议——所有这些都在本地进行处理,以提高速度和数据安全性。

有抱负的游戏设计师可以为朋友和家人创造个性化的游戏体验。使用 DIGITS,他们可以训练人工智能模型来生成独特的故事情节、逼真的角色行为或适应玩家偏好的动态游戏环境,所有这些都可以从桌面系统顺利运行。

企业家可以利用这些系统的力量来开发人工智能驱动的工具。例如,小企业主可能会在其桌面上训练和测试客户服务聊天机器人,确保其正常工作,然后再将其扩展以进行更广泛的部署。这种方法将减少对外部资源的依赖,同时加速创新。

底线:NVIDIA 让我们看到了未来。当消费者开始使用更高级的人工智能时,NVIDIA 可能会介入。

关于《DIGITS 项目:NVIDIA 进军个人 AI 超级计算 |黑客午间》的评论


暂无评论

发表评论

摘要

NVIDIA 在 CES 2025 上推出了 Project DIGITS,旨在通过推出紧凑而强大的个人 AI 超级计算机,实现高级 AI 计算的普及。DIGITS 项目专为人工智能研究人员、数据科学家、学生和爱好者而设计,解决了与传统方法相关的硬件限制和高成本问题。该系统包括 NVIDIA 的 GB10 Grace Blackwell Superchip,性能高达 1 petaflop,使其适合大型语言模型训练和模拟环境等任务。它以 3,000 美元的一次性成本提供强大的处理能力,取代了持续的云费用。现实世界的应用包括在合法聊天机器人中制作人工智能模型原型、优化机器人系统、加速医学研究、增强游戏开发、教育用途和环境监测。尽管目前不针对普通消费者,但 DIGITS 项目代表着随着技术的发展,将先进的人工智能功能融入日常生活的一步。