2026年7月,JEDEC 发布编号 JESD330-4 的标准封装高带宽内存规范,用普通有机基板替掉昂贵的硅中介层。三个多月后,伯恩斯坦在10月下旬的研报里把另一种器件推上台面,高带宽闪存 HBF,读取带宽接近 HBM,容量高出8到16倍。11月6日,Counterpoint 的三季度数据显示,三星以38%的份额居 DRAM 首位,SK海力士营收环比增长超过40%,长鑫存储从去年同期的5%升到9%。三条消息分属标准、架构与产能,指向的却是同一件事,AI 推理的存储正在从一层堆叠摊成三层分工。
带宽够用,容量开始不够
大模型推理时的显存占用大致分成两块,模型权重和 KV 缓存。权重是固定的,KV 缓存随上下文长度与并发数线性膨胀。高盛在10月13日的一份研报里给出判断,AI 模型的上下文窗口正从约150万 Token 向1000万以上扩展,容量不足正在制约算力效率,并把 HBF 的潜在市场规模估算在400亿至1500亿美元区间,前提是 GPU 采用率达到15%至50%。
这件事可以用超市来理解。HBM 是收银台旁的货架,取货最快,能摆的东西有限。SSD 是后面的仓库,容量管够,跑一趟要花时间。中间那段路空了很多年,HBF 想填的正是这一格。
SPHBM 先把中介层的成本让出来
按已公开的规范解读,JESD330-4 把4比1的串行化接口和512个引脚放进一颗封装,维持2.0 TB/s 的带宽水平,同时兼容 HBM4 的堆叠结构与64GB容量。数字看上去是降级,路线换算的意义更大。硅中介层要在晶圆厂里占用先进封装产能,CoWoS 排产紧张时,HBM 的交付就被卡在封装环节。改用有机基板,等于把一部分制造压力转移到普通 PCB 产线上。
打个比方,原来每栋楼配一部专用电梯,现在改走公共走廊,速度靠通道宽度与调度补回来。代价也很实际,信号完整性、层数更多的 PCB、更精细的凸点工艺,都要重新留出设计余量。推理侧对峰值带宽的敏感度低于训练侧,让出一点余量换产能与成本,这笔账在推理占比上升的年份更容易算平。
HBF 接住容量这一层
伯恩斯坦给出的成本数字比架构描述更有冲击力。8层堆叠的 HBF 每 GB 约0.64美元,同代 HBM4 约6.78美元。闪迪称首款 HBF 晶粒已完成流片,样品计划在下一年交付。SK海力士在10月发布的整机柜内存架构里给出的参数略有出入,带宽约为同代 HBM 的一半,容量可达14倍,HBF 规范1.0预计明年发布,产品2028年初送样。不同厂商的容量倍数在8到16倍之间浮动,指向的能力一致,用 NAND 的密度去补 HBM 够不到的容量。
分层方式接近书桌与书库。正在读的几页摊在桌上,也就是 HBM 存放最活跃的工作集。整面书墙放在伸手可及的位置,HBF 承载模型权重和成批可复用的 KV 缓存。取书要起身走几步,比跑到城市另一头的图书馆还是快得多。
约束也写得清楚。NAND 的擦写寿命和随机写性能都弱于 DRAM,写放大在推理场景会变成软件负担。这套结构适合读多写少的负载,推理框架必须把 KV 缓存按热度分层卸载,缓存未命中率降不下来,硬件的容量优势就落不了地。
产能端的账本被重写
三星在三季度确认2027年 HBM 产能已被锁定,同期 HBM4 收入环比增长超过两倍。SK海力士批准的扩产计划规模约54万亿韩元,龙仁工厂承担 HBM 与下一代 DRAM 的产能。Counterpoint 的统计里,长鑫存储的份额从5%升到9%,这是国产 DRAM 第一次在主流数据中拿到接近两位数的位置。
HBF 如果起量,受益方会换一批。闪存厂的产线转向高带宽产品,堆叠层数上升带来更多晶圆消耗,消费级 NAND 的供给被抽走一部分,SSD 的降价空间跟着收窄。存储涨价的传导链条从服务器一路走到手机和笔记本,这条链在过去一年完整演练过一次。

衡量标准要跟着换
评价一套 AI 存储系统的尺子正在移动。过去看单堆栈带宽和单卡显存容量,两个数字往上走就算进步。分成三层之后,有意义的是每 Token 成本、KV 缓存命中率、容量与带宽的配比,还有数据在三层之间搬动的开销。搬运次数多一次,节省下来的硬件成本会被延迟吃掉。
物流中心的吞吐取决于分拣线和仓位的配比,卡车跑得再快,货位不够也只能在月台上排队。存储分层解决的是仓位问题,代价是多出一道分拣工序。
接下来可以盯的三个信号
第一个是 SPHBM 的实际导入。规范发布不等于产线切换,主板厂、封装厂和内存模组厂是否愿意为有机基板方案重做设计,决定这条路线是备选还是主流。
第二个是 HBF 的交付节奏。闪迪的样品客户验证结果、SK海力士2028年初的送样计划、规范1.0能否按期发布,三个时间点只要有一个滑期,分层架构在2027年的落地规模就要往下修。
第三个是价格。2027年 HBM 产能售罄意味着议价权仍在内存厂手里,HBF 的每 GB 成本优势能否穿透到云厂商的账单,取决于闪存厂愿意让出多少毛利。
三层结构的硬件部分已经摆上桌面,剩下的变量在软件。推理框架是否愿意为异地缓存改写调度逻辑,决定这些新器件被装进机柜,还是只出现在发布会的幻灯片里。接下来一年,答案会写在推理框架的配置文件里。
