NVIDIA 已在搭載 HBM的 GPU 型號上迭代 5 次，性能也在不斷跟進以適配 AI 模型與訓練的需求。在 7 年時間內，從 V100 架構時代搭載的 HBM2 已經演化到了 GB200的 HBM3E，而內存寬帶與容量則是在這幾年內翻了數倍。以同一 Hopper 架構下的 H100 SXM 和 H200 SXM為例，在其他硬件條件與接口協議相同的情況下，搭載了 HBM3E 的 H200 SXM 要比搭載了HBM3 的 H100 SXM 在帶寬速率上提升了 43%，在容量上也是擴增了 76%。而對比落后了一整代，搭載了 HBM 2E 的 A100 SXM，帶寬速率更是提高了 141%，所有的這一切提升都是HBM 性能迭代帶來的優勢。