HBM，不是最终解

人工智能（AI）半导体市场内存技术的竞争焦点正从提升高带宽内存（HBM）的带宽转向新型存储结构和系统。这是因为，随着AI模型规模的扩大，不仅计算性能，内存容量、数据传输相关的功耗以及发热量等问题也逐渐成为新的瓶颈。

据半导体行业28日报道，这一趋势在23日至26日于美国斯坦福大学举行的“Hot Chips 2026”大会上也得到了强调。

为克服现有 HBM 的局限性，包括三星电子和 SK 海力士的下一代 HBM 技术、3D DRAM、HBF（高带宽闪存）、PIM（内存处理）和 CXL（计算快速连接）等下一代技术相继问世。

HBM 已成为 AI 加速器的核心内存，其优势在于能够以超高速在 GPU 附近处理数据。然而，随着层数的增加，封装难度也随之增加，发热、厚度和良率等问题也变得更加突出。因此，仅靠 HBM 可能难以同时满足 AI 的带宽和容量需求。

三星电子提出了一项旨在改进HBM核心组件——基片芯片的发展方向。该方案 旨在将更多逻辑功能集成到基片芯片中，使其能够执行针对人工智能加速器计算和系统特性量身定制的任务，从而超越简单的数据传输功能。这被解读为将HBM从通用存储器扩展到客户定制存储器的战略。

SK海力士一直致力于研发先进封装技术，以克服HBM的物理限制。随着内存堆叠数量的增加，芯片间的互连性和散热管理变得至关重要，因此该公司正积极参与技术竞赛，力求利用混合键合等下一代技术，实现更稳定、更大规模的内存堆叠。

行业分析师认为，HBM 的发展方向正在从简单地“堆叠更多材料并提高速度”转向其他方向。

一位半导体行业人士表示：“在人工智能半导体领域，仅仅通过提升计算能力来提高系统整体性能是有限的。最终，数据在内存中的处理和传输效率将成为未来关键的竞争因素。”

事实上，在本次“Hot Chips”大会上，也涌现出了用于替代或补充HBM的新型内存技术。D-Matrix和Meta公司推出了基于3D DRAM的生成式AI推理加速器，同时还发布了利用HBF的AI计算技术。这标志着内存的应用不再仅仅局限于存储空间，而是更加积极地用于计算和数据处理。

三星电子发布的LPDDR5X-PIM也遵循同样的原理。PIM技术通过在内存内部执行部分计算来减少数据传输到CPU或AI加速器的次数。在本次发布会上，三星电子展示了LPDDR5X-PIM的AI推理性能，并在使用Meta Rama 3.1进行的测试中证明，其令牌处理性能比现有LPDDR5X提升了约三倍。

利用CXL技术的内存计算也引起了广泛关注。三星电子和XCENA展示了基于CXL的计算内存技术，该技术不仅扩展了内存容量，还能在内存附近进行计算。这种方法允许多个系统共享AI服务器所需的大规模内存，同时减少数据传输。

这种转变表明，下一代人工智能内存市场可能会摒弃所有功能都集中在单一产品中的结构。在这种模式下，HBM负责高带宽，基于CXL的内存支持大容量内存扩展和池化，而PIM或计算内存则承担减少数据传输的功能。

一位业内人士表示：“展望未来，不仅HBM本身的性能至关重要，如何将HBM与其他内存层结合使用，以提升人工智能系统的整体效率也同样重要。内存制造商也需要超越单纯供应DRAM的范畴，拓展业务范围，将计算、封装和接口设计融为一体。”

点这里👆加关注，锁定更多原创内容

*免责声明：文章内容系作者个人观点，半导体芯闻转载仅为了传达一种不同的观点，不代表半导体芯闻对该观点赞同或支持，如果有任何异议，欢迎联系我们。