台式机、工作站和服务器有许多共通之处,其中之一就是CPU几乎总是安装在机械插座中。然而,在大型AI服务器方面,尤其是使用Nvidia芯片的服务器,看不到任何插座,这使得升级或维修更加复杂。不过据一份报告称,Nvidia可能会改变其立场。
该报告来自趋势科技(via) chipset)声称对其下一季的Blackwell AI对于B300系列芯片,Nvidia将从使用直装式处理器切换到采用插座设计。虽然前者可以提供最佳性能,但它确实使得维护和一般服务变得非常麻烦。
集邦咨询还指出,这种变化将有利于生产英伟达人工智能硬件的制造商,因为它会减少所需的表面贴装设备数量,或者至少减少使用现有设备制造英伟达系统的时间。
AMD已经为其使用了一个插座本能MI300A怪物芯片,具体来说是一个SH5插槽,它看起来与其用于EPYC服务器CPU的SP5插槽非常相似。另一方面,英特尔则遵循了英伟达的思路,采用了其Gaudi 3 AI加速器,但由于使用该处理器的公司数量并不多,因此英特尔没有压力将它设计为可插拔插座式。
当然,这对普通消费者来说并没有什么实际意义,你可以确定的是,在不久的将来甚至更长时间内你都不会看到可插拔的GPU。原因之一是AMD和Nvidia的巨大AI加速器在同一个封装中集成了内存芯片,因此当需要更换加速器时,无需担心替换内存的问题。
独立显卡的电路板上焊接有RAM,尽管过去曾经有过在芯片封装内带有VRAM的消费级GPU(例如,某些型号)。 Radeon VII与使用高速GDDR6相比,此类系统的成本使得目前大规模这样做是不合经济的。
你可能会想为什么不让GPU来做呢和VRAM也是以插槽形式安装的,就像您台式机中的CPU和系统内存一样。除了降低显卡内存系统的整体性能外,还会增加制造该卡的成本。
鉴于它们现在的价格如此昂贵,我不确定有人会愿意承担额外的成本只是为了在保留同一电路板的情况下升级GPU和RAM。主板上的内存插槽也遵循一个公认的标准,而CPU则是围绕这个标准设计的。
对于GPU来说不存在这样的东西,我也看不到AMD、Intel和Nvidia会同意一个VRAM插座设计。这也会使GPU变得不必要地复杂。
如果你查看每个AM4 锐龙处理器它们都配备了双通道128位宽的内存控制器,而Nvidia当前的RTX 40系列GPU的位宽从96位到384位不等。在一个插座系统中容纳所有这些内容太复杂,因此成本太高。
也许在遥远的未来某一天,我们会得到通过插座安装的独立显卡,但就目前而言,只有普通的CPU和利润丰厚的人工智能芯片是这样的。