AI算力存储瓶颈:从GPU到内存的产业重心转移
2026年8月4日,三星在美国圣克拉拉举行的未来存储与内存大会上,首次展示了面向AI基础设施的下一代存储技术路线图。其中,zHBM(垂直堆叠HBM)架构概念模型成为最受关注的技术发布。同一周,行业消息确认三星、SK海力士和美光2027年的预计内存供应已全部售罄,内存芯片供应紧张态势预计将持续至2027年。AI产业的竞争逻辑正在发生根本性变化——存储芯片取代GPU,成为制约AI发展的核心瓶颈。
传统HBM采用横向堆叠方式,将多个DRAM裸片通过TSV(硅通孔)连接后平铺在AI加速器旁边。zHBM则将HBM垂直堆叠于AI加速器正上方,数据传输路径从毫米级缩短至微米级,带宽提升至HBM5的约8倍,延迟降低至传统方案的1/5。这种架构变革直接解决了大模型推理中的内存墙(Memory Wall)问题。
zHBM架构技术原理与性能指标
三星zHBM的核心创新在于3D垂直集成。传统方案中,GPU与HBM之间通过基板互连,信号传输需要经过封装基板和PCB走线,物理路径长、寄生电容大。zHBM直接将HBM堆叠在GPU裸片上方,通过微凸块和TSV实现裸片级直连。
关键技术指标对比:
– zHBM带宽:HBM5约8倍(预计可达40TB/s以上)
– 数据传输延迟:传统方案的1/5
– 封装面积:较传统HBM方案减少约60%
– 能效比:每比特传输能耗降低约70%
除zHBM外,三星同步发布的V10 BV-NAND采用晶圆键合技术,层数突破400层,面向AI训练中的持久化存储需求,单盘容量可达128TB以上。
内存供应短缺对服务器采购的影响
三大内存原厂2027年产能已全部售罄的消息,对服务器采购策略产生直接影响。当前AI服务器配置中,HBM成本已超过GPU本身。一台8卡H200服务器中,6颗HBM3e模块的成本约占整机的35%至40%。产能售罄意味着:
1. 价格上行周期延长。HBM现货价格在2026年Q3已较年初上涨22%,产能锁定后议价空间进一步压缩。
2. 交付周期拉长。新订单预计交付周期从12周延长至24周以上,直接影响AI集群的扩容节奏。
3. 替代方案需求激增。DDR5多通道方案、CXL内存池化方案在HBM供应不足的窗口期获得更多部署机会。
CXL内存池化:HBM替代方案实战
在HBM供应受限的情况下,CXL(Compute Express Link)内存池化成为可行的替代方案。CXL Type 3设备允许服务器通过PCIe通道访问远端内存池,以更低的成本补充AI训练所需的内存容量。
以下为在Linux环境下配置CXL内存池的示例:
# 安装CXL管理工具
apt install cxl-cli cxl-ndctl
# 扫描系统中的CXL设备
cxl list
# 创建CXL内存区域
cxl create-region -d decoder0.0 -m memdev0,memdev1,memdev2,memdev3 -s 256G
# 将CXL区域加入NUMA节点
echo "kernel/cxl/region0/numa_node=3" > /sys/kernel/config/cxl/params
# 验证CXL内存可用性
numactl --hardware | grep "available:"
# 输出示例: available: 4 nodes (0-3)
# node 3 即为CXL内存池节点
# 配置AI训练任务使用CXL内存
export CUDA_VISIBLE_DEVICES=0,1,2,3
numactl --cpunodebind=0 --membind=3 python train_llm.py \
--model-path /data/llama-3-70b \
--batch-size 32 \
--memory-backend cxl-pool
服务器存储架构规划建议
面对内存供应短缺与zHBM技术演进,服务器架构规划需做出调整:
短期(6个月内):优先锁定HBM产能,与内存厂商签订长协框架。对非关键训练任务采用DDR5+CXL混合方案降低HBM依赖。长鑫存储拒绝苹果压价事件表明,国内存储厂商的议价能力正在增强,国产HBM替代方案的采购窗口值得关注。
中期(6至18个月):跟踪zHBM量产进度,评估服务器平台升级路径。zHBM需要新的封装工艺和散热方案,现有服务器平台无法直接兼容,需在下一代机型规划中预留设计空间。
长期(18个月以上):关注三星V10 BV-NAND等持久化存储的落地节奏,评估”内存+持久化存储”融合架构对AI训练成本结构的改善幅度。
存储瓶颈正在重塑AI基础设施的采购逻辑。GPU不再是唯一的稀缺资源,内存架构的选择和产能锁定能力,正在成为AI算力竞争中更关键的胜负手。
原创文章,作者:小编,如若转载,请注明出处:https://www.yunthe.com/ai-cun-chu-ping-jing-shen-du-jie-xi-san-xing-zhbm-jia-gou/