据DigiTimes报道，国内存储厂商武汉新芯（XMC）已经启动了专注开发和制造的HBM项目，瞄准了人工智能和高性能计算（HPC）领域。武汉新芯拟购置了16套设备，以满足采用3D芯片堆叠技术的生产需求，目标是每月3000片晶圆。虽然武汉新芯并非JEDEC标准制定组织的成员，无法访问或使用HBM规范，但随着清华紫光集团的入股，所以问题也不大。

此前就有报道称，长鑫存储（CXMT）计划生产HBM内存，已经获得用于HBM存储器组装和测试的装置。长鑫存储已经在合肥附近运营一座DRAM晶圆厂，并筹集资金建造第二座，将引入更先进的工艺技术，用于制造和封装HBM存储器，预计未来一到两年内还不能看到相关的产品。

传闻国内一些芯片厂商还希望将HBM与逻辑芯片集成在一起，类似于台积电的CoWoS封装。这也迫使其他晶圆代工厂，比如中芯国际开发更先进的封装技术，以满足客户的芯片生产需求。

去年美光、SK海力士和三星先后发送了HBM3E样品给英伟达，用于下一代AI GPU的资格测试，目前只有三星还没得到英伟达的订单。据Wccftech报道，三星之所以落后于竞争对手，主要原因是HBM芯片良品率偏低，传闻HBM3芯片的良品率仅在10%到20%之间，而SK海力士则是60%到70%。良品率作为芯片制造中的关键部分，决定了硅片中可用芯片的数量。

为了解决HBM芯片生产上的良品率问题，三星正在采购新的设备和材料，并改进HBM芯片的封装技术。有消息称，三星可能改用SK海力士早在HBM2E上就已引入的MUF技术，取代现有的NCF技术，不过随后三星予以否认，表示将继续依靠自己的封装技术。

投资者也注意到三星在HBM竞争中处于不利的局面，这已经体现在股价上：三星今年以来股价累计下跌了7%，而SK海力士和美光在同一时期内，估计分别上涨了17%和14%。

最近负责SK海力士研发工作的副总裁Lee Kang-Wook接受了媒体的采访，表示SK海力士正在加大在先进芯片封装方面的支出，打算在韩国投资10亿美元建造先进封装设施，以进一步扩大先进封装产能，希望能够抓住市场对高带宽存储器日益增长的需求带来的机遇，同时巩固SK海力士目前在HBM市场的领导地位。

Lee Kang-Wook认为，半导体行业前50年的重点一直在前端，也就是芯片的设计和制造，而接下来的50年的重心将移到后端，即封装部分。虽然SK海力士每月公布今年的资本支出预算，但行业分析师做了评估，预计金额约为14万亿韩元（约合106.88亿美元/人民币768.6亿元），其中大概十分之一用于先进封装技术，比重并不算小。

Lee Kang-Wook曾在HBM2E上采用了开创性的封装方法，是SK海力士在2019年底赢得英伟达订单的关键。

HBM需要在基础晶圆上通过硅通孔（TSV）连接多层DRAM，如果其中一层出问题就意味着整个HBM堆栈报废。随着堆叠层数的增加，良品率有可能会进一步降低。有消息人士称，现阶段HBM类产品的良品率约为65%，如果想要提高这一数字，产量就会下降。存储器制造商之间的竞争就是在良品率和产量之间找到平衡，提供合适的解决方案。据了解，美光和SK海力士似乎在英伟达的资格测试中处于领先位置，其中前者已经通过了认证阶段，开始为下一代H200产品生产HBM3E芯片。

目前SK海力士和三星都打算增加HBM类产品的产量，不过较低的良品率加上更高的需求，从长远来看是个大问题。

SK海力士表示，这几个月HBM销售破纪录，2024年全年的HBM产能都已经售罄，这带动了公司第四季度的盈利，并为存储市场复苏打响信号。

在官方新闻里面SK海力士副总裁金起台分享了他们在HBM市场上的做法，他认为提前做好应对人工智能时代到来的准备，是HBM在市场上获得成功的重要原因。SK海力士已在HBM市场取得了领先地位，并计划在2024年最大限度的扩展这一主导地位。为实现这一目标，公司新设立了HBM业务部门，整合了包括产品设计、设备研发、产品开发、量产及由金副社长领导的HBM销售与营销部门在内的所有部门。

随着生成式人工智能服务变得越发多样化和复杂化，对人工智能存储解决方案HBM的需求也大幅增长。高性能、高容量的HBM是一款具有里程碑意义的产品，它颠覆了存储半导体只是整个系统一部分的传统观念。特别是SK海力士的HBM竞争力非常出色，我们凭借高超的技术实力，在全球大型科技公司中备受青睐。

此外他们还透露了HBM领域的惊人需求，声称今年供应已经售罄，SK海力士已经为2025财年的主导地位做好了准备 。这其实一点都不令人惊讶，因为已经可预见在2024年AI将出现巨大的繁荣，并随着NVIDIA和AMD等公司为下一代解决方案做准备，对HBM的需求也非常巨大。随着HBM3e和HBM4未来进入市场，我们可能会看到进一步令人震惊的收入数据。

积极争取客户的购买量，协商以更有利的条件销售高质量产品，是半导体销售的基础。我们有了好的产品，接下来就是速度战。今年HBM已经“售罄”，因此，尽管2024年刚刚开始，但为了保持市场领先地位，我们已经开始为2025年的市场做准备了。 　

去年存储半导体行情疲软，但是HBM3这类高附加值产品需求激增，填补了存储器厂商其他产品的损失。据相关媒体报道，HBM产品正见证存储半导体行业的大幅度的经济反弹，随着英伟达和AMD等公司大量生产人工智能（AI）加速器，市场需求飙升了500%，而且价格创下了历史新高。这种趋势似乎在短期内野不会停止，预计未来一段时间内市场会迅速发展。

目前SK海力士和三星占据了市场地位，双方合计拥有超过90%的市场份额。近期有报道称，SK海力士制定了“One Team”战略联盟，拉拢了台积电（TSMC），双方将合作开发HBM4芯片，后者极有可能负责封装和测试部分，以提升产品的兼容性。

据市场调查机构的报告，显示HBM市场预计在未来五年里以45%的复合年增长率增长，这意味着巨大市场收入增长。市场乐观的预期也提高了存储器厂商的期望值，加上人工智能的加持，很可能将HBM产品市场提升到新的高度。

目前市场上主流的HBM3是8层或12层垂直堆叠，中间通过硅通孔（TSV）互联，然后放在一个基本逻辑芯片上，采用1024位接口连接。虽然看起来很简单，但实际上并非如此，而且制造HBM是一项复杂的任务。其生产的设备与传统存储器的设备有着根本的不同，而且生产过程中要对其进行测试，然后封装，最后再测试整个堆栈。其中需要大量的工具和专业知识，但HBM产品在带宽和能效方面胜于市面上其他所有类型的内存。

长鑫存储已经在合肥附近运营一座DRAM晶圆厂，并筹集资金建造第二座，将引入更先进的工艺技术，用于制造和封装HBM存储器。此外，长鑫存储尚未开发自己的HBM生产和封装技术，也不清楚是哪类型的HBM，预计未来一到两年内还不能看到相关的产品。

国内一些芯片厂商还希望将HBM与逻辑芯片集成在一起，类似于台积电的CoWoS封装，这也迫使中芯国际需要开发更先进的封装技术。

市场研究机构的报告显示，到2025年，HBM市场将达到高达49.76亿美元，与2023年的数据相比，这几乎是两倍的增长。这个预测数字完全是基于当前和预期的行业需求，因为HBM销售最多的关键领域是HBM产品在AI GPU中的应用。正如过去多次报道的那样，AI GPU需求的突然增长造成了市场上HBM的短缺，而HBM是AI加速器的主要组成部分。

不过厂商对HBM的未来很乐观，行业也在转向更新的标准，HBM3e和HBM4等新产品将被制造商广泛采用。比如英伟达就为2024年的数据中心产品制定了许多计划，除了已经发布的H200，随后还有基于Blackwell架构的B100，两者都将采用HBM3e。

随着人工智能市场的蓬勃发展，存储器制造商也看到了复苏的迹象，可能会有更多带动营收增长的机会。

上个月英伟达在投资者简报中放出了产品路线图，展示了2024年至2025年数据中心的规划，下一代Blackwell架构GPU的发布时间从2024年第四季度提前到2024年第二季度末，并计划在2025年发布后续的“X100”。据Business Korea报道，英伟达已经与SK海力士签订HBM3E优先供应协议，用于新一代B100计算卡。

虽然英伟达准备实现供应链多元化，美光和三星都向英伟达提供了HBM3E的样品，完成验证测试后就会正式签约，不过有业内人士预计，SK海力士仍然会率先取得HBM3E供应合同，并从中获得最大的供应份额。凭借与英伟达的交易，SK海力士在2023财年第四财季的营收有望时隔1年零3个月再次突破10万亿韩元。

明年英伟达即将推出的产品里，新增加的H200和B100分别会采用6个和8个HBM3E模块。随着英伟达产品线逐步向下一代产品过渡，HBM3E的使用量会增加，这也有利于SK海力士提升盈利能力。目前SK海力士以2025年为目标，积极开展HBM4的开发工作，以继续保持竞争优势。

SK海力士打算将两个DRAM芯片水平排列，然后组合在一起，像一个芯片那样。由于芯片下面没有添加基板，可以让芯片变得更薄，会明显减小了安装厚度，SK海力士打算在明年公开披露使用该封装制造的芯片的研究成果。

未来HBM会往更为定制化的方向发展，不仅排列在SoC主芯片旁边，部分还会转向堆栈在SoC主芯片之上。此前有报道称，SK海力士目标是将HBM4以3D堆叠在逻辑核心上，有点类似于AMD的3D V-Cache技术，不过容量更高且更便宜，只是速度会慢一些。这不仅改变了逻辑和存储芯片的互连方式，也将改变芯片的制造方式。

有SK海力士高层人士表示，在人工智能时代，SK海力士将引领存储半导体创新，针对每个客户提供差异化的专业产品。

光子学基于一种可以对单个光子（光的粒子/波）信息进行编码的技术，不但能大幅度降低功耗，还能提升处理速度。 由于对当前计算环境有着诸多良好的特性，近年来英特尔、AMD、台积电、英伟达和博通等半导体企业都纷纷加入到光子学的研究中。据TomsHardware报道，目前业界通过两种方法让HBM与集成光子学取得明显进展。

第一种是让光子中介层夹在基础封装层和顶层之间，顶层包含HBM和GPU等逻辑芯片，充当相互之间的通信层。这种设计需要中介层，而且使用光子I/O配置本地HBM和逻辑芯片。第二种是将HBM与芯片封装完全分离，无需处理中介层的芯片封装复杂性，通过光子学将HBM连接到逻辑芯片。这种方法可以简化HBM和逻辑芯片的制造及封装成本，还省去了复杂的电路内数字到光学的本地转换。

从表面上看，似乎第二种方法听起来更好，不过这也意味着服务器规范更深层次的重塑，HBM内存可能会安装到指定的光子接口上。假设已经制定了标准化的通信接口，那么HBM内存就变成“可升级”产品，处理方式就像现在的内存模组一样。

据ZDNet Korea报道，由于英伟达H100等计算卡的需求大增，对存储器厂商的产能安排带来了很大的影响。今年本身存储半导体行情疲软，而HBM3这类高附加值产品需求激增能部分填补存储器厂商其他产品的需求减缓，这也让三星和SK海力士转移了开发重点，加大了对HBM3的投入。SK海力士已表示，2024年的HBM3订单已经排满，而同样的情况现在也出现在三星身上。

HBM（High Bandwidth Memory）属于垂直连接多个DRAM，与DRAM相比提供了更快的数据传输速度，更高的带宽和更大的容量。HBM DRAM产品以HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）、HBM3E（第五代）的顺序开发，其中 HBM3E是HBM3的扩展（Extended）版本。SK海力士在今年8月宣布成功开发出HBM3E，而三星也在上个月宣布推出名为“Shinebolt”的HBM3E。

SK海力士是现阶段HBM类产品的市场领导者，占据了最大的市场份额，最近获得了英伟达和AMD的订单，并开始向客户提供样品进行性能验证。三星则打算利用其整体半导体解决方案提供商的优势，提供结合下一代HBM、先进封装技术和代工产品的定制服务，从而与SK海力士抢夺市场。

HBM3E每引脚速度为9.8GB/s，意味着总带宽超过了1.2TB/s。为了实现更高堆叠层数和改善热特性，三星优化了非导电膜（NCF）技术，以消除芯片层之间的间隙，最大限度地提高导热性。目前采用8层和12层堆叠方案的HBM3已经开始批量生产，HBM3E的样品也正在向客户发货。三星还打算利用其整体半导体解决方案提供商的优势，提供结合下一代HBM、先进封装技术和代工产品的定制服务。

除了HBM3E外，本次发布会的其他重点产品还包括了业界最高容量的32Gb DDR5 DRAM、业界首款32Gbps GDDR7、以及能显著提升服务器应用存储能力的PB级别PBSSD。另外还展示了7.5Gbps的LPDDR5X CAMM21、9.6Gbps的LPDDR5X DRAM、专门用于设备上人工智能的LLW2 DRAM、下一代UFS、以及用于个人电脑的QLC SSD BM9C1。