先进封装HBM是什么

HBM是HighBandwidthMemory的缩写，即高带宽存储器。它是一种面向需要极高吞吐量的数据密集型应用程序的DRAM。在先进封装方面，HBM是通过使用先进的封装方法（如TSV硅通孔技术、微凸块技术等）将多个DRAM芯片垂直堆叠起来，并与GPU通过中介层互联封装在一起的技术。这样就在较小的物理空间里实现了高容量、高带宽、低延时与低功耗的特点，已成为数据中心新一代内存解决方案，也是高端GPU的最佳显存搭档。

对比传统的DDR内存，HBM采用3D立体堆叠技术，改变了常规的2D平面的堆叠方式，这种堆叠方式让它在性能上有了很大提升。例如它具有更高带宽、更多I/O数量，能提供高达460GB/s的带宽，这是传统GDDR的4倍多；同时它的功耗更低，仅为GDDR的一半；并且尺寸更小。不过它也存在一定数据延迟以及不可扩展性的问题，但在AI和高性能领域，这些问题影响不大，因为这些领域主要是高并发任务，对于GPU的延迟要求相对不高，而对带宽需求非常敏感。

HBM的技术迭代历程

1.HBM自2014年首款硅通孔HBM产品问世以来，技术已经发展至第四代。每一次迭代都伴随着处理速度的提高，最新的HBM3带宽、堆叠高度、容量、I/O速率等较初代均有多倍提升。

2.在高性能计算需求的驱动下，HBM的升级速度近年明显加快。例如SK海力士在2021年10月宣布成功开发出容量为16GB的HBM3DRAM，2022年6月初即宣布量产。之后仅过去10个月，又宣布已成功开发出垂直堆叠12个颗DRAM芯片、容量高达24GB的HBM3新品，并正在接受客户公司的性能验证。

3.海力士的第五代HBM内存HBM3E也已在路上。英伟达于2023年8月8日发布的最新GH200预计将搭载HBM3E内存，并于2024年Q2出货。该HBM3E芯片单pin最大带宽达8Gb/s，单栈最大带宽达1Tb/s，较上一代HBM3提升25%。

HBM的技术难点-3D堆叠及TSV技术

1.堆叠精度方面，在HBM中多个DRAM芯片需要高度精准地堆叠在一起。这需要极高的制造工艺水平，因为必须确保每层芯片的对准精度，如果精度不够就会避免电气性能的损失。

2.在TSV制作上，TSV技术是将垂直通孔穿透每一层硅片，并在通孔内填充导电材料。这一过程涉及精密的刻蚀和填充技术，任何小失误都可能导致电气连接问题或者热应力问题。

HBM的技术难点-热管理

1.热量密度是个大问题，由于HBM芯片是3D堆叠结构，相较于传统的2D芯片，单位体积内的热量密度更高。这就导致芯片内部的热量难以散发，如果处理不好可能引发热失效。

2.所以CowoS封装需要设计高效的热管理方案，例如使用先进的散热材料，并且在结构设计上也要精心规划，这样才能确保芯片的热稳定性。

HBM的技术难点-电源和信号完整性

1.电源传输方面，HBM需要高带宽的数据传输，这对电源分配网络提出了极高的要求。任何电源噪声都可能影响HBM的性能，导致数据传输错误。所以CowoS封装必须确保稳定的电源供应并且进行有效的噪声抑制。

2.在信号完整性上，高速数据传输对信号完整性提出了挑战，CowoS封装需要确保在高频环境下，信号传输的完整性。这涉及到阻抗匹配、信号线长度优化以及减少信号干扰等技术。

HBM的技术难点-封装工艺复杂性

1.多材料集成时，CowoS封装需要将硅片、基板和散热材料等多种材料集成在一起，这要求各材料的热膨胀系数匹配。如果热膨胀系数不匹配，就会因热膨胀差异导致机械应力和芯片损坏。

2.封装可靠性方面，CowoS封装中的多层结构和复杂的连接方式，需要确保封装的长期可靠性，包括要能抗机械冲击、热循环和电迁移等因素的影响。

HBM的制造成本问题

1.CowoS封装涉及复杂的制造工艺和高精度设备，这使得其制造成本较传统封装方式高得多。例如需要特殊的设备来进行3D堆叠、TSV制作等工艺，这些设备昂贵且操作复杂。

2.高昂的成本对量产提出了经济性挑战，需要在高性能和成本之间找到平衡。如果不能控制成本，可能会限制HBM在更多场景中的应用。

HBM的市场现状

1.目前全球HBM市场呈现“三分天下”的局面，存储芯片三巨头SK海力士、三星和美光分别占到53%、38%和9%的市场份额。其中SK海力士是唯一具备量产新世代HBM3能力的供应商。

2.HBM主要应用于AI服务器领域，2023年HBM仅占DRAM产量的5%，但是随着AI需求的爆发式增长，预计未来几年其复合年增长率将达到50%。例如TrendForce预测，2025年，AI服务器的出货量将达到约200万台，从而助推HBM需求爆发，其市场规模或将达150亿美元，同比增长68%。

3.英伟达、谷歌、AMD等AI领军企业均广泛采用HBM解决方案，这也表明了HBM在AI相关领域的重要性和广泛的适用性。

HBM与传统DRAM的关系

1.HBM与一般DRAM之间并不存在取代关系，它们是因为应用需求的不同而衍生出的技术。HBM主要应用于对带宽、功耗、封装体积等有特殊要求的高性能计算、图形处理和芯片等领域。

2.传统DRAM仍然在很多普通的计算设备中广泛应用，而HBM是针对数据密集型、高性能需求场景的特殊解决方案。例如在一些普通的个人电脑中，传统DRAM就足以满足需求，而在AI服务器、高端GPU等设备中，HBM的优势就非常明显。

HBM对半导体设备厂商的影响

1.HBM的技术难点主要体现在封装工艺上，其中TSV在HBM的3D封装成本中占比最高，接近30%，而TSV通常又会涉及到通孔蚀刻、填充、绝缘以及减薄等工艺流程，并且对电镀材料有较高要求。这使得配套供应链及国产替代厂商有望从中受益，包括半导体材料、设备以及封测企业。

2.半导体设备厂商普遍看好后续的产业前景，因为随着HBM需求的增长，对相关设备的需求也会增加，例如键合设备（临时键合/解键合、TCB键合/混合键合等）、刻蚀机、电镀机、沉积设备（CVD、PVD等）等设备的需求会随着HBM的发展而增长。

（内容来源：券商之家）