我”AMD已经提供了有关如何在AI-Accelerated Ryzen AI上运行DeepSeek S R1 AI模型的说明莱登产品,使用户可以轻松地在本地PC上运行新的经过想法的型号。使用R1的几个LLM与RX 7000系列桌面GPU,然后选择XDNA NPU的Ryzen CPU。但是,他们要求可选的驱动肾上腺素25.1.1运行。
该指南具有AMD用户在其本地(受支持的)机器上运行DeepSeek R1所需的一切。LM Studio为Ryzen AI量身定制了一键式安装程序,这是AMD用户将用来安装R1的方法。AMD显示了如何为其硬件调整应用程序,包括最大支持的LLM参数列表。
据称,DeepSeek R1直到最近才被蒸馏成“高功能”的较小型号,该模型足够小,可以在基于消费者的硬件上运行。DeepSeek-V3模型最初是在2,048个Nvidia的集群上训练的H800GPU用于上下文。
最大支持的LLM参数基于内存容量。这RX 7600 XT,,,,7700 XT,,,,7800 XT,,,,7900 GRE, 和7900 XT最多支持deepSeek-r1-distill-qwen-14bâ。旗舰RX 7900 XTX最多支持DeepSeek-R1-Distill-Qwen-32bâ。RX 7600及其8GB的VRAM支持多达DeepSeek-R1-Distill-lllama-8B。
相似地,Ryzen 8040和7040系列的移动APU配备了32GB的RAM,Ryzen AI HX 370和365具有24GB和32GB RAM,最多可支持DeepSeek-R1-Distill-distill-lllama-14b。Ryzen AI Max+ 395最多可以支持多达DeepSeek-R1-Distill-lalama-70B,但仅在128GB和64GB内存能力中。32GB最多支持DeepSeek-R1-Distill-Qwen-32b。
DeepSeek的新AI模型席卷了世界,低11倍计算成本而不是领先的模型。两天前,它完全负责NVIDIA的纪录5890亿美元的市值损失。DeepSeek R1模型依赖于极端优化水平来提供其11倍的效率提升,并依赖于Nvidia的组装样并行线程执行(PTX)大多数性能提升的编程。
NVIDIA和AMD GPUS ARED唯一可以运行R1的GPU;华为已经对其进行了DeepSeek的支持上升AIGPU,可以在本土中文硬件上执行性能AI。