存储：HBM 凭借高带宽和低延迟推动AIGC计算
思瀚产业研究院    2024-11-16

HBM（高带宽存储器）是一种采用 3D 堆叠技术的DRAM，通过先进的硅通孔（TSV）封装方法，能够实现高容量、高带宽、低延时和低功耗的特性。这种设计特别适用于高性能计算和图形处理，尤其是在AIGC 计算中，HBM与GPU的结合极大提升了并行数据处理速度。

在 AIGC 计算中，GPU 需要处理大量并行数据，要求具备高算力和大带宽。通过中介层与 HBM 的互联封装，HBM 的高带宽特性为GPU 提供了充足的内存带宽，支持其高速数据处理需求，从而加速 AIGC 模型的训练和推理过程。

HBM 存储技术自 2013 年 SK 海力士首次推出HBM1 以来，经历了多次重要的产品迭代，包括 HBM2、HBM2E、HBM3 和最新的HBM3E。每一代产品在容量、带宽和功耗效率上都有显著提升，其中 HBM3E 提供高达9.2Gbps 的I/O传输速度和超过 1280GB/s 的带宽。展望未来，预计 HBM4 将在2026 年上市，将支持更广泛的内存层配置，以更好地满足不同类型的应用需求。

AIGC 的迅猛发展正在刺激数据中心对高速DRAM 内存的需求持续增长。随着超大规模企业不断扩展服务器容量以支持大语言模型的训练和推理任务，高速 DRAM 和 HBM 的需求也显著上升。数据中心已成为DRAM 需求最大的细分市场，占据整体市场份额的 50%。预计随着 HBM 和 CXL（Compute ExpressLink）等新技术的普及，数据中心 DRAM 市场的增速将超过整体DRAM 市场。

根据YoleGroup 的预测，DRAM 市场将从 2023 年的 520 亿美元增长到2029 年的1340亿美元，复合年均增长率为 17%，而数据中心 DRAM 在2023-2029 年间的复合年增长率将达到 25%。在全球 DRAM 市场中，三星、SK 海力士和美光占据了主导地位，三家公司合计市场份额高达 94%。其中，三星以 40%的市场份额继续稳居全球最大DRAM供应商，SK 海力士和美光分别占有 29%和 25%的市场份额。

随着 AIGC 算力需求的持续上升，全球 HBM 市场正经历快速增长。根据Yole Group 的分析，全球 HBM 市场预计将从2023 年的55 亿美元增长至2029年的 377 亿美元，复合年均增长率达 37.8%。HBM 市场增速将显著超过整体DRAM 市场，HBM 在整体 DRAM 出货量中的占比预计将从2023 年的2%增长到2029 年的 6%，营收占比将从 2023 年的 10.4%增长到2029 年的32.8%。

SK 海力士在 HBM 市场中占据领先地位。SK 海力士在HBM 的开发和商业化方面处于领先地位，是 HBM3 的主要供应商，也是Nvidia H100 和H200的唯一供应商。三星主要生产 HBM2E，并计划开始生产HBM3。美光则跳过HBM3，直接推出 HBM3E。根据 TrendForce 的数据，2023 年SK 海力士、三星、美光在HBM 市场的份额分别为 55%、41%、9%。

更多行业研究分析请参考思瀚产业研究院官网，同时思瀚产业研究院亦提供行研报告、可研报告（立项审批备案、银行贷款、投资决策、集团上会）、产业规划、园区规划、商业计划书（股权融资、招商合资、内部决策）、专项调研、建筑设计、境外投资报告等相关咨询服务方案。