NPU 到底是什么?这是关于人工智能芯片的解释 - PCWorld

2024-09-18 10:30:00 英文原文

CPU 和 GPU 已经是旧闻了。如今,最前沿的技术都是 NPU,硬件制造商都在谈论 NPU 的性能。

NPU 是一种计算机组件,旨在以节能的方式加速 AI 任务,为新的人工智能任务铺平了道路。具有强大AI功能的Windows桌面应用程序。无论如何,这就是计划。

所有 PC 最终都会配备 NPU,但目前只有部分 PC 配备。以下是您需要了解的有关 NPU 的所有信息,以及为什么它们现在成为计算机行业的热门话题。

什么是 NPU?

NPU 代表神经处理单元。它是一种特殊的处理器,针对人工智能和机器学习任务进行了优化。

这个名字来源于人工智能模型使用神经网络的事实。通俗地说,神经网络是一个由相互连接的节点组成的巨大网格,在节点之间传递信息。(整个想法是根据我们人类大脑的工作方式建模的。)

NPU 不是您购买并插入的独立设备(例如,就像使用 GPU 一样)。相反,NPU 被封装为现代处理器平台的一部分,例如英特尔 Core Ultra、AMD Ryzen AI 以及高通 Snapdragon X Elite 和 Snapdragon X Plus。这些平台具有 CPU 以及集成 GPU 和 NPU。

NPU 与 CPU 与 GPU:有什么区别?解释

多年来,计算机一直在中央处理单元 (CPU) 或图形处理单元 (GPU) 上运行任务。这仍然是 AI PC(即具有 NPU 的计算机)上的工作方式.

CPU 运行计算机上的大部分任务。但是,尽管 GPU 的名称如此,它并不只是用于图形和游戏任务。GPU 实际上只是针对不同类型的计算任务进行了优化,这就是为什么 GPU 对于挖掘加密货币和运行高性能本地人工智能模型等非游戏工作至关重要。事实上,GPU 非常擅长此类人工智能任务,但 GPU 非常耗电。

这就是 NPU 发挥作用的地方。NPU 在计算 AI 任务时比 CPU 更快,但与 GPU 相比则不那么快。代价是,在计算相同的 AI 任务时,NPU 的功耗远低于 GPU。另外,当 NPU 处理 AI 相关任务时,CPU 和 GPU 都可以被释放来处理各自的任务,从而提高整体系统性能。

为什么使用 NPU 而不是 CPU 或 GPU?

如果您在 PC 硬件上运行诸如 Stable Diffusion(或其他一些 AI 模型)之类的 AI 图像生成软件,并且您需要最大性能,那么 GPU 将是您的最佳选择。这就是为什么 Nvidia 宣传其 GPU 是优于 NPU 的高级 AI 硬件。

探索常见问题

但有时您想要运行的 AI 功能对于常规程序来说可能过于繁重CPU 但不一定需要 GPU 的顶级能力。或者,也许您使用的是笔记本电脑,想要利用 AI 功能,但不希望 GPU 耗尽电池电量。

借助 NPU,笔记本电脑可以执行本地(设备上)AI 任务,而无需产生大量热量,并且不会过度消耗电池寿命,并且它可以执行这些 AI 任务,而不会占用 PC 可能执行的任何其他操作的 CPU 和 GPU 资源。

即使您对 AI 不感兴趣,因此,您仍然可以将 NPU 用于其他用途。在 CES 2024 上,惠普展示了游戏流媒体软件,该软件使用 NPU 执行视频流任务,从而释放 GPU 来运行游戏本身。通过使用 NPU 的额外计算能力,流媒体软件不会占用任何 GPU 资源,并且比使用 CPU 执行相同类型的任务要快得多。

但是 Windows PC 软件可以使用 NPU 做什么,真的吗?

对于 AI PC,NPU 可以被操作系统和驻留在系统上的应用程序使用。

例如,如果您有配备 Intel Meteor 的笔记本电脑Lake 硬件中,内置 NPU 将允许您运行 Windows Studio Effects,这是由 AI 驱动的网络摄像头效果,可在使用网络摄像头的任何应用程序中提供背景模糊和强制目光接触等功能。

Microsoft

第一批搭载高通 Snapdragon X 芯片的微软 Copilot PC 拥有自己的人工智能功能,这些功能使用该平台内置的 NPU。例如,微软推迟的 Windows Recall 功能将需要 NPU。

相关:什么是 Copilot PC?解释

2024 年 11 月,AMD 和英特尔 PC 将获得之前高通 PC 独有的 Copilot PC 功能,但仅限配备新 AMD Ryzen AI 的 AMD 和英特尔 PC300 系列和 Intel Core Ultra 系列 2 (Lunar Lake) 处理器。

这些只是 Windows 内置的功能;应用程序开发人员还可以通过多种方式使用 NPU。不要惊讶地看到 Audacity 和 GIMP 的插件提供由计算机 NPU 提供支持的人工智能音频和照片编辑功能。

可能性是无限的,但对于硬件来说还处于早期阶段,因此还需要一段时间才能充分发挥其潜力。

如果我的 PC 已经可以运行 AI 软件,为什么还需要 NPU?

当前大多数具有 AI 功能的应用程序,包括 Microsoft 的 Copilot 聊天机器人还没有使用 NPU。相反,他们在遥远的云服务器上运行人工智能模型。这就是为什么您可以在任何设备上运行 Microsoft Copilot、ChatGPT、Google Gemini、Adobe Firefly 和其他 AI 解决方案,无论是旧的 Windows PC、Chromebook、Mac、Android 手机还是其他设备。

Adobe

但这些服务在云上运行人工智能模型的成本很高。例如,微软花费了大量资金来处理数据中心的 Copilot AI 任务。公司希望将这些人工智能任务转移到本地 PC 上,并减少自己的云计算费用。

当然,这不仅仅是为了节省成本。您还可以受益于在本地设备上运行计算量大的人工智能任务的能力。例如,即使您处于离线状态,这些人工智能功能仍然可以工作,并且您可以将数据保密,而不是一直将其全部上传到云服务器。(对于出于隐私和安全原因希望保持对自己业务数据的控制的公司来说,这也是一件大事。)

有哪些 NPU 可用以及它们有多强大?

英特尔

NPU 性能以 TOPS 来衡量,代表每秒万亿次操作。为了让您了解这意味着什么,低端 NPU 可能只能处理 10 TOPS,而符合 Microsoft Copilot PC 品牌资格的 PC 必须至少处理 40 TOPS。

截至 2024 年秋季,提供以下 NPU:

  • Intel Core Ultra Series 1 (Meteor Lake):Intel 第一代 Core Ultra NPU 最高可达 11 TOPS。对于 Microsoft Copilot PC 功能而言,它的速度太慢,但它确实可以与 Windows Studio Effects 和一些第三方应用程序配合使用。
  • 英特尔酷睿 Ultra 系列 2 (Lunar Lake):英特尔 Lunar Lake 芯片将包含一个 NPU,高达 48 TOPS 的性能,超出了 Copilot PC 的要求。
  • AMD Ryzen Pro 7000 和 8000 系列:AMD 先于英特尔在 PC 上提供了 NPU,但 Ryzen 7000 系列处理器中的 NPU 对于 Copilot 来说太慢PC 功能,性能高达 12 和 16 TOPS。
  • AMD Ryzen AI 300 系列:最新 AMD Ryzen AI 300 系列处理器中的 NPU 可提供高达 50 TOPS 的性能,足以满足副驾驶 PC。
  • Qualcomm Snapdragon X Elite 和 Snapdragon X Plus:基于 Qualcomms Arm 的硬件包括能够高达 45 TOPS 的 Qualcomm Hexagon NPU。

其价值值得注意的是,NPU 不仅仅存在于 PC 上。苹果的神经引擎硬件是最早引起市场关注的大型 NPU 之一。适用于 Pixel 设备的 Google Tensor 平台也包含 NPU,而三星 Galaxy 手机也包含 NPU。

底线:您应该立即购买带有 NPU 的 PC 还是等待?

老实说,处于前沿是有风险的。

如果你不遗余力地购买 Meteor Lake 笔记本电脑,希望你的 PC 能够适应未来的人工智能功能,当微软后来宣布时,你实际上会被烧伤Meteor Lake NPU 对于 Copilot PC 功能来说太慢了。(英特尔不同意,指出您仍然可以获得笔记本电脑最初附带的所有功能。)

这有一线希望吗?Copilot PC 功能还没有那么有趣。尤其是随着 Windows Recall 的延迟,Copilot PC 并没有什么引人注目的地方。大多数最大的人工智能工具 ChatGPT、Adobe Firefly 等甚至根本不使用 NPU。

不过,如果我要购买一台新笔记本电脑,如果可能的话,我希望获得一个 NPU。实际上,你不必费尽心思去获得一个;它只是现代硬件平台附带的东西。这些现代处理器平台还有其他重要功能,例如大幅延长电池寿命。

另一方面,这些快速 NPU 目前仅出现在最新的笔记本电脑上,您通常可以在较旧的笔记本电脑上找到超值优惠几乎与最新型号一样快。如果您发现上一代笔记本电脑打折力度很大,那么仅仅为了 NPU 花更多的钱可能没有意义,特别是如果您没有计划运行任何人工智能工具。

截至在撰写本文时,大多数大型人工智能工具仍然在云端运行,或者至少提供这种选项,以便您可以在任何 Windows 笔记本电脑、Chromebook,甚至 Android 平板电脑和 iPad 上运行它们。

对于台式机,NPU的情况就不同了。英特尔的台式机 CPU 还没有 NPU。您可以寻找带有 Ryzen AI NPU 的 AMD 桌面芯片,但 AMD 的 Ryzen 7000 和 8000 系列芯片无论如何都不支持 Copilot PC 功能。因此,如果您要组装台式电脑,请暂时将 NPU 放在一边。但这还没有那么重要。

正在寻找一台配备高性能 NPU 的电脑吗?考虑基于 Arm 的 Windows 笔记本电脑(例如 Surface Laptop 7)和 AMD Ryzen AI 300 系列笔记本电脑(例如华硕 ProArt PX13)。另外,请继续关注我们对 Lunar Lake 驱动的英特尔笔记本电脑的评论。在此之前,请了解您需要了解的所有 AI PC 术语。

进一步阅读:购买 Copilot 笔记本电脑之前需要了解的关键事项

摘要

如今,最前沿的都是 NPU,硬件制造商都在谈论 NPU 的性能。为什么使用 NPU 而不是 CPU 或 GPU?如果您在 PC 硬件上运行 AI 图像生成软件,如 Stable Diffusion(或其他一些 AI 模型),并且您需要最大性能,那么 GPU 将是您的最佳选择。大多数最大的人工智能工具 ChatGPT、Adobe Firefly 等。您可以寻找带有 Ryzen AI NPU 的 AMD 桌面芯片,但 AMD 的 Ryzen 7000 和 8000 系列芯片无论如何都不支持 Copilot PC 功能。因此,如果您要组装台式电脑,请暂时将 NPU 放在一边。