HBM · メモリ · AI コンピュートの第二曲線

なぜ HBM は普通の DRAM ではないか

HBM3E は単スタックで D5 ダイ 12 枚を TSV で垂直積層、帯域 1.2 TB/s は DDR5 の 30 倍。NVIDIA H200 は単カードで 141 GB の HBM3E、B200 は 192 GB。AI 学習では帯域の壁が演算の壁より厳しい — Hopper クラスタでは HBM コストが GPU BOM の 50% 超え。