英语轻松读发新版了,欢迎下载、更新

AMD发布了有关Ryzen AI CPU和Radeon GPU的DeepSeek的说明

2025-01-29 18:25:08 英文原文

作者:Aaron KlotzSocial Links NavigationContributing Writer

我”AMD已经提供了有关如何在AI-Accelerated Ryzen AI上运行DeepSeek S R1 AI模型的说明莱登产品,使用户可以轻松地在本地PC上运行新的经过想法的型号。使用R1的几个LLM与RX 7000系列桌面GPU,然后选择XDNA NPU的Ryzen CPU。但是,他们要求可选的驱动肾上腺素25.1.1运行。

该指南具有AMD用户在其本地(受支持的)机器上运行DeepSeek R1所需的一切。LM Studio为Ryzen AI量身定制了一键式安装程序,这是AMD用户将用来安装R1的方法。AMD显示了如何为其硬件调整应用程序,包括最大支持的LLM参数列表。

据称,DeepSeek R1直到最近才被蒸馏成“高功能”的较小型号,该模型足够小,可以在基于消费者的硬件上运行。DeepSeek-V3模型最初是在2,048个Nvidia的集群上训练的H800GPU用于上下文。

最大支持的LLM参数基于内存容量。这RX 7600 XT,,,,7700 XT,,,,7800 XT,,,,7900 GRE, 和7900 XT最多支持deepSeek-r1-distill-qwen-14bâ。旗舰RX 7900 XTX最多支持DeepSeek-R1-Distill-Qwen-32bâ。RX 7600及其8GB的VRAM支持多达DeepSeek-R1-Distill-lllama-8B。

相似地,Ryzen 8040和7040系列的移动APU配备了32GB的RAM,Ryzen AI HX 370和365具有24GB和32GB RAM,最多可支持DeepSeek-R1-Distill-distill-lllama-14b。Ryzen AI Max+ 395最多可以支持多达DeepSeek-R1-Distill-lalama-70B,但仅在128GB和64GB内存能力中。32GB最多支持DeepSeek-R1-Distill-Qwen-32b。

DeepSeek的新AI模型席卷了世界,低11倍计算成本而不是领先的模型。两天前,它完全负责NVIDIA的纪录5890亿美元的市值损失。DeepSeek R1模型依赖于极端优化水平来提供其11倍的效率提升,并依赖于Nvidia的组装样并行线程执行(PTX)大多数性能提升的编程。

NVIDIA和AMD GPUS ARED唯一可以运行R1的GPU;华为已经对其进行了DeepSeek的支持上升AIGPU,可以在本土中文硬件上执行性能AI。

获取汤姆(Tom)的硬件的最佳新闻和深入的评论,直接进入收件箱。

关于《AMD发布了有关Ryzen AI CPU和Radeon GPU的DeepSeek的说明》的评论


暂无评论

发表评论

摘要

AMD提供了在Ryzen AI和Radeon产品上运行DeepSeek的R1 AI模型的说明,该模型与RX 7000系列GPU兼容,并选择了XDNA NPU的Ryzen CPU。用户需要肾上腺素25.1.1驱动程序才能运行它。LM Studio为Ryzen AI用户提供一键式安装程序。该指南详细介绍了基于内存容量的硬件调整和支持的LLM参数,范围从“ DeepSeek-R1-Distill-Qwen-8B”到“ DeepSeek-R1-Distill-distill-lllama-70B”。DeepSeek R1因其成本效率而闻名,并影响了NVIDIA的市值。华为也将支持集成到Ascend AI GPU中。