美光希望未来几年继续在HBM和GDDR类内存上努力，此前已推出业界首款带宽超过1.2 TB/s、引脚速度超过9.2 GB/s、8层垂直堆叠的24GB容量HBM3 Gen2，对应的应该就是路线图上显示的HBM3E。美光该款HBM3E将于2024年初到来，预计会在英伟达面向AI和HPC推出的新一代GPU上首次亮相。美光还在准备12层垂直堆叠的单品36GB HBM3E芯片，将会在2025年推出。

更大变化的将是HBM4，计划在2026年发布，内存堆栈将采用2048位接口，带宽超过1.5 TB/s。美光打算在2026年至2027年之间，推出容量在36GB至48GB、12/16层垂直堆叠的产品。到了2028年还会有HBM4E，频率将进一步提升，容量将增加至48GB到64GB，带宽增加至2 TB/s以上。

下一个GDDR版本，也就是GDDR7将会在2024年末到来，每个数据I/O接口的速率达到了32 Gbps，容量为16Gb至24Gb。预计到2026年末，单个芯片的容量会超过24Gb，速率也会提升至36 Gbps。

美光预计在2025年提供128GB至256GB的MCR DIMM内存模块，数据传输速率为8800 MT/s，然后在2026年或2027年提供容量超过256GB的MCR DIMM内存模块，数据传输速率会攀升至12800 MT/s。同时美光准备推出支持CXL 2.0的内存模块，容量在128GB至256GB，带宽将达到36 GB/s，接下来还有支持CXL 3.x的内存模块，容量超过256GB，带宽超过72 GB/s。

对于低功耗应用，业界将继续使用LPDDR内存。美光速率为8533 MT/s或9600 MT/s的LPDDR5X将继续使用一段时间，然后从2025年开始提供基于LPDDR设计的LPCAMM2内存，速率为8533 MT/s，容量在16GB至128GB，到了2026年中旬还会有速率为9600 MT/s、容量超过192GB的产品。

目前三星已经量产了HBM2E和HBM3，并开发了速率为9.8 Gbps的HBM3E，将很快向客户提供样品，以丰富高性能计算（HPC）和人工智能（AI）生态系统。三星还对新的HBM-PIM (processing-in-memory) 寄予厚望，通过加入计算功能，使内存芯片本身可以执行CPU、GPU、ASIC或FPGA的操作，不但改善了内存带宽的瓶颈，而且在语音识别等特定工作负载中实现了高达12倍的性能提升和4倍的能效提升。

三星在去年年底成立了先进封装团队（AVP），提供了包括2.5D/3D的先进封装解决方案，以扩大芯片封装业务的收入。同时借此机会，最大限度地发挥各业务部门之间的协同效应，为芯片制造业务争取更多订单。有报道称，三星曾向英伟达建议，可以从台积电拿到制造好的芯片，然后采购三星的HBM3，并使用三星的I-Cube 2.5D封装来完成后续的工作。

自2015年以来，每个HBM堆栈采用的都是1024位接口，将位宽翻倍是HBM内存技术推出后最大的变化。暂时还不清楚HBM4的引脚速度是否还能保持在9GB/s的水平，如果能做到相同的速度，意味着带宽将从现在HBM3E的1.15TB/s提升至2.3TB/s，提升会相当明显。

目前像英伟达H100计算卡，使用了六颗HBM3/HBM3E芯片，每个对应的接口为1024位，也就是共6144位。如果单个HBM芯片的接口位宽增加，不知道厂商是否会在产品上继续使用相同数量的HBM芯片，或者选择适当地降低数量削减成本。

不少人担心位宽翻倍后导致产能下降，毕竟存储器需要数千个通硅孔（TSV）去做堆叠。不过相关报告称，三星和SK海力士现在都很有信心，认为HBM4能保持原有的产量。