AI算力竞赛仍在继续,但真正悄悄改变数据中心成本结构的,已经不只是GPU。
7月4日,聚焦半导体与AI基础设施研究的SemiAnalysis再次强调了一个此前颇具争议的判断:随着AI服务器持续升级,DRAM、NAND以及HBM等存储产品正在快速吞噬超大规模数据中心的资本支出。按照其最新预测,到2026年底,内存相关投入将在英伟达AI系统整体成本中占据超过30%的比重,而到了2027年,这一数字有望进一步突破40%。
这个判断并非首次提出,却随着近期产业链变化再次成为讨论焦点。
争议的起点来自市场对服务器成本结构的传统认知。过去,业内普遍认为,内存在单台服务器BOM(物料成本)中的占比通常只有十几个百分点,因此不少投资者很难接受“内存占整体资本支出30%以上”的预测。今年2月底,当SemiAnalysis首次向客户分享这一观点时,就收到了大量质疑。
不过,仅仅几个月之后,市场环境已经发生了明显变化。
尤其是在美光科技最新财报披露之后,高带宽内存(HBM)持续供不应求、DRAM价格快速上涨,再加上AI服务器配置不断提升,越来越多机构开始重新评估存储在整个AI基础设施中的价值。SemiAnalysis也在5月公开回应市场疑问,认为此前的预测不仅没有过于激进,反而可能仍然偏保守。
如果把DRAM、NAND和HBM放在一起观察,会发现AI服务器的成本重心正在发生迁移。过去几年,GPU几乎吸引了所有关注,因为算力提升主要依赖计算芯片本身。但随着大模型参数规模越来越大、上下文窗口持续扩展,以及推理业务快速增长,GPU旁边的内存系统开始成为新的性能瓶颈。
简单来说,没有足够容量、足够带宽的内存,再强的GPU也无法持续保持高利用率。这也是为什么HBM价格能够长期维持高位,三星、SK海力士、美光等存储厂商不断扩大先进封装和HBM产能,而云计算巨头也愿意承担越来越高的采购成本。
对于超大规模云厂商而言,资本开支的逻辑也正在变化。过去采购重点是增加GPU数量,如今更多预算开始流向整个系统配置,包括HBM、DDR、高性能SSD以及高速互联等基础设施。AI集群越来越像一个完整系统,而不是几块计算卡简单堆叠。
从产业链来看,这意味着AI投资红利正在向更多环节扩散。GPU依然是最核心的计算资源,但存储厂商、先进封装企业、材料供应商以及服务器整机厂商,都有机会分享这一轮AI基础设施升级带来的新增需求。
SemiAnalysis认为,未来几个月市场将逐步接受这一趋势。当AI服务器进入更高密度部署阶段,内存已经不再只是传统意义上的配套部件,而是在整个AI基础设施中逐渐成为影响性能、成本和投资回报的重要变量。
如果这一预测最终兑现,也意味着未来几年AI资本开支结构将迎来一次明显重构。市场讨论的重点,可能不再只是“还需要多少GPU”,而会进一步转向“整个AI系统究竟需要配备多少存储资源”,这或许才是下一轮基础设施竞争真正值得关注的方向。