AI 存储技术方向硬核解析：HBM4、CXL、QLC 122TB、存算一体、KV-Cache 卸载、NVMe-oF 六大主线全景（2026-07 定稿版）
上一篇《大模型存储市场 2024-2026》讲了钱、讲了盘、讲了 HBM 涨价三年翻四倍这个"果"。这一篇讲"因"——AI 存储这一年里，到底跑到了哪一步、还差哪几层皮。别整虚的，六条主线：HBM3E/HBM4、CXL 3.x 内存池化、QLC 122TB 大盘、存算一体（PIM/CIM）、KV-Cache 四级卸载、RDMA / NVMe-oF 训练网络。每一条都掐了近半年的一手信息，配套三段可跑代码放在 GitHub。
一、为什么 AI 让"内存墙 / 存储墙"重新成为主角
CPU 圈子讲了三十年"存储墙"，一直没成为主要矛盾——通用计算靠 cache 层级和 out-of-order 执行糊得过去。AI 训推把这层遮羞布一把扯了。
一颗 H100 SXM 的 BF16 峰值算力 989 TFLOPS，HBM3 带宽 3.35 TB/s，Roofline 平衡点 arithmetic intensity ≈ 295 FLOPs / Byte。B200 FP8 4500 TFLOPS 配 8 TB/s HBM3E，平衡点抬到 563；GB300 FP4 15 PFLOPS 配 8 TB/s，平衡点飙到 1875。这个数字意味着什么？意味着 LLM decode 阶段每读 1 byte KV 只做 1 次乘加，实际 arithmetic intensity ≈ 1，比平衡点低两到三个数量级——GPU 有 99% 的时间在等内存搬运。这不是我说的，是 NVIDIA Dynamo 团队在博文里承认的：“GPU memory is limited and costly. As the prompt length increases, the KV Cache grows larger… Holding large KV Caches in GPU memory for long durations is not scalable”（据 NVIDIA Developer Blog《How to Reduce KV Cache Bottlenecks with NVIDIA Dynamo》）。
再看训练侧。Meta 在 SIGCOMM 2024 那篇 《RDMA over Ethernet for Distributed AI Training at Meta Scale》 里给了答案：单集群 24K+ GPU、400G RoCE、专有后端网络，光是 200G 升 400G 就要重新调 DCQCN 参数好几轮，“performance was degraded with default DCQCN settings and doubled ECN thresholds”。带宽升上去，拥塞控制没跟上，收敛速度反而掉。
结论——AI 时代的存储不是可选项。它是决定 GPU 利用率、TCO、乃至能不能训得动大模型的第一变量。下面六条主线，就是业界这两年扑上去解决这个第一变量的六个方向。
二、HBM 主线：HBM3E → HBM4，2026 年"元年"里发生了什么
HBM3E 12H 已成 2025-2026 主力。三星官网列的规格：36 GB / 12H 堆叠 / up to 9.2 Gbps / 单栈最大 1180 GB/s（据 Samsung Semiconductor HBM 页面）。美光的 12H HBM3E 用 1β 工艺，功耗比上代降低约 12%，已通过 NVIDIA B300 认证，2025 Q3 起大批量交付 AWS Trainium 3 和谷歌 Ironwood TPU（据雪球《高带宽存储 HBM》整理的公开信息）。
HBM4 是 2026 的关键跳跃点。I/O 引脚数从 1024 直接翻倍到 2048。三星在 2026 年 3 月 HBM4 信息图 中给出的官方数据：11.7 Gbps 稳定运行、最大 13 Gbps，单栈带宽 3.3 TB/s，比 HBM3E 提升约 2.7 倍；同一秒钟能传 750 部 4 GB 的电影。三星用 1c DRAM（10 nm 级第 6 代）做核心 die，用自家 4 nm 逻辑工艺做 base die——这是 IDM 模式的甜头，SK 海力士得靠台积电 N4/N3 代工。
量产节奏。据 TechNews 报道，SK 海力士 HBM4 原计划 2026 年 2 月量产、Q2 末扩产，因 NVIDIA Rubin 平台节奏调整而后延至 3-4 月量产、Q3 扩产；2026 上半年 HBM3E 仍是 SK 海力士主力。三星则反向抢跑，2026 年 2 月已首家出货 HBM4；市场传 SK 海力士将拿走 NVIDIA HBM4 订单的 60%~70%（据 studio-hx 博客）。美光 12H HBM3E 已通过 B300 认证，HBM4 目标 2026 年下半年跟进。
16H HBM4 已经在门口。SK 海力士在 CES 2026 展台 首度公开 16 层堆叠、48 GB 的 HBM4 样品。三星