韩国内存巨头SK海力士宣布已经开始量产全球首款12层HBM3E，总内存容量达到36GB，相比于之前的8层配置的24GB容量有了巨大的提升。
这一新设计通过将每块DRAM芯片的厚度减少40%，使得在保持相同整体尺寸的情况下可以堆叠更多层。该公司计划在2024年底开始批量出货。
HBM3E内存支持9600 MT/s的带宽，在八堆栈配置下，有效速度可达1.22 TB/s。这一改进使其非常适合处理需要高速度和大容量的大型语言模型（LLM）和人工智能工作负载。能够以更快的速度处理更多的数据可以使AI模型运行得更加高效。
Nvidia和AMD硬件
为了实现高级内存堆叠，SK 海力士采用了创新的封装技术，包括硅通孔（TSV）和大规模回流模塑下填充（MR-MUF）工艺。这些方法对于确保新型 HBM3E 在稳定、高性能运行中所需的结构完整性和散热至关重要。特别是在进行密集型 AI 处理任务时，改进的散热性能对于保持可靠性尤为重要。
除了更高的速度和容量，HBM3E还设计提供了增强的稳定性，SK海力士独有的封装工艺确保在堆叠过程中最小化翘曲。该公司采用的MR-MUF技术可以更好地管理内部压力，减少机械故障的可能性，并保证长期耐用性。
该12层HBM3E产品的早期样品于2024年3月开始采样， với （原文中英文部分没有对应中文翻译内容，因此保留原文其余部分并补充“与”字以保持句子完整性）NVIDIA的Blackwell Ultra GPU和AMDInstinct MI325X 加速器预计将是首批使用这种增强内存的产品之一，利用高达 288GB 的 HBM3E 来支持复杂的 AI 计算。SK 海力士最近拒绝了一笔 3.74 亿美元的预付款从一家未知公司确保它可以为Nvidia提供足够的HBM，以满足其需求旺盛的AI硬件。
SK 海力士再次突破了技术限制，展示了我们在人工智能内存领域的行业领导地位，”SK 海力士总裁兼人工智能基础设施负责人金智元表示。“我们将继续作为全球第一的人工智能内存供应商稳步准备下一代内存产品，以克服人工智能时代的挑战。”