随着生成式人工智能（Generative AI, Gen AI）应用场景的持续扩大，对高速、高带宽、低延迟内存的需求也愈加迫切。无论是模型训练还是推理，生成式 AI 都需实时处理海量数据，因此内存性能已成为支撑这些应用的关键基石。针对不同的内存技术于生成式 AI的应用，全球市调研究公司Counterpoint Research指出，高带宽内存（High Bandwidth Memory，HBM）为目前市场上最受关注的解决方案之一，各大内存大厂也都正在积极布局。

图片来源 : shutterstock、达志影像

生成式AI模型（如大型语言模型LLM、大型视觉模型LVM等）对内存的需求涵盖训练与推理两大应用场景。训练过程中需要高带宽内存以处理庞大数据，而推理过程则需要低延迟内存以支撑实时决策。Counterpoint Research指出， DRAM是目前AI系统中最广泛应用的内存类型，在成本与性能之间能达到平衡。然而，随着AI模型日益复杂，不少厂商都会采用先进封装技术 （如3D-IC和CoWoS）来提升速度和带宽，并加强内存与处理器的整合，以满足生成式 AI 的高效能需求。

事实上，传统DRAM在带宽与延迟方面有所限制，因此逐渐难以应对生成式 AI 的需求；另一方面，高带宽内存（HBM）透过硅穿孔技术（Through-Silicon Via， TSV）堆栈DRAM的设计，能大幅提升运算效率。然而，虽然HBM凭借其层迭设计提供远高于传统 DRAM的带宽，但高成本仍是一项挑战。Counterpoint Research表示，未来透过缩小DRAM制程节点并增加层迭数量，HBM的容量将进一步提升，以满足生成式AI和深度学习对高效能计算的需求。

生成式AI带动需求，HBM竞争激烈

随着生成式AI和高效能运算（HPC）需求的爆发性增长，内存技术正迅速成为突破瓶颈的关键领域。HBM作为目前市场上最受关注的解决方案之一，全球科技巨头纷纷展示技术实力和创新能力。从产品性能提升到供应链整合，HBM市场的竞争格局正在迅速演变，各大内存厂商正积极布局以迎接未来的挑战与机遇。Counterpoint Research整理分析如下：

● 三星的挑战与策略调整：作为全球内存产业的领导者之一，三星在HBM领域的发展却面临困境。其挑战主要源于对先进封装技术的保守态度以及产品设计过于强调成本，而忽略功耗与热量管理这些高效能运算应用的核心需求。尽管如此，三星已计划于2025年第1季推出修订版的HBM3e技术，并着重于基础接口芯片（base die）逻辑电路的优化，以改善其产品在功耗与散热方面的性能。三星的策略调整将成为2025年HBM市场竞争的重要观察点。

● SK海力士的技术与市场领先地位：SK海力士以其技术创新和灵活的企业文化在HBM市场中处于领先地位。为满足NVIDIA等客户对功耗和散热的高标准要求，SK海力士采用多层次技术改进，包括内存单元设计优化、堆栈阶段的后端管理，以及在基础接口芯片中新增逻辑电路（IVC）。这些创新使其产品具备更高的稳定性与效能，进一步巩固了其市场领导地位。

● 美光的积极追赶：美光选择了一条直接跳跃式的技术发展路线，计划于2025年推出HBM3e技术。美光采用了来自SK验证的成熟设备与制程，并透过在基础接口芯片中加入逻辑电路，优化内部电压以满足客户需求。美光的策略展现在竞争中进一步缩小与主要对手差距的决心。

● 中国厂商的崛起与挑战：在HBM市场中，中国厂商的崛起也不容忽视。中国计划于2025年实现HBM3的本地化生产，涵盖GPU制造、HBM DRAM单元、基础接口芯片与OSAT。然而，随着美国加强对先进设备的出口管制，中国的HBM产业链发展可能面临技术与供应链上的挑战，特别是在2026年后，能否持续提升产品竞争力将成为关键。

HBM市场的未来展望与合作价值

Counterpoint Research分析师认为，未来，HBM的竞争力不能仅仅依赖单一厂商的技术实力，更需要生态系统的深度协作。例如，SK海力士与TSMC在基础接口芯片上的合作，凸显标准化与长期合作对提升产品性能的关键作用。

此外，随着生成式AI技术的进一步普及，对内存产品的需求将从高阶市场逐渐渗透至更多领域。这不仅为HBM市场带来增长动力，也为厂商提供新的创新机遇。在这场竞赛中，技术突破、成本优化和供应链整合将成为赢得市场的三大核心要素。

好消息～北美智权报有微信公众号了！ 《北美智权报》内容涵盖世界各国的知识产权新闻、重要的侵权诉讼案例分析、法规解析，以及产业与技术新知等等。 立即关注北美智权微信公众号→ NAIP_IPServices ～欢迎读者分享与转发～