HBM（High Bandwidth Memory、高帯域幅メモリ）は、AI向けGPUのすぐそばに積み重ねて配置される、特別に高速なメモリです。GPUがどれだけ速く計算できても、計算に使うデータを十分な速さで供給できなければ性能を発揮できないため、HBMはAI半導体の実効性能を左右する重要な部品になっています。
通常メモリとの違い
| 項目 | 一般的なDDR/GDDRメモリ | HBM |
|---|---|---|
| 配置 | マザーボード上に基板を介して接続 | GPUと同じパッケージ内に積層して配置 |
| 接続幅 | 数十本程度の配線 | 1個あたり1,000本を超える配線（広いバス幅） |
| 帯域幅 | 比較的低い | 非常に高い（GPU1個あたりTB/s級） |
| コスト・製造難易度 | 比較的安価で量産しやすい | 高コストで、パッケージング工程が複雑 |
GPUの近くに積層される構造
HBMは、複数のDRAMダイ（半導体チップ）を垂直に積み重ね、TSV（シリコン貫通電極）と呼ばれる縦方向の配線で貫通させて接続する構造を取ります。これをGPUダイと同じシリコンインターポーザ（土台となる基板）の上に並べて配置することで、配線を極端に短くし、高い帯域幅を実現しています。
- DRAMダイ（複数層を積層）
データを記憶する層。TSVで縦方向に貫通接続される
- ベースダイ
積層したDRAMとGPUをつなぐ制御回路
- シリコンインターポーザ
GPUダイとHBMダイを横に並べて載せる土台
- GPUパッケージ
GPU本体とHBMが同一パッケージ内に収まる
積層と近接配置により配線距離を短縮し、消費電力あたりの帯域幅を高めている。
帯域幅が重要な理由
供給網
- 01DRAMメーカー
SK hynix・Samsung・MicronがHBMダイを製造する
- 02先端パッケージング
TSMCなどのファウンドリがGPUダイとHBMを同一パッケージに統合する
- 03GPUベンダー
NVIDIAやAMDが完成したGPUモジュールを製品化する
- 04データセンター
クラウド事業者や企業がGPUサーバーとして導入する
HBMの供給量そのものがボトルネックになりやすく、GPUの生産台数を左右する要因の一つになっている。
GPU性能との関係
GPUの性能は、コア数や動作周波数だけで決まる
実際には、HBMの容量と帯域幅が不足していると、コア数がどれだけ多くても計算がメモリ待ちで止まってしまい、 カタログ上の理論性能を発揮できません。大規模言語モデルのように扱うデータ量が大きい処理ほど、 GPUの世代交代における性能向上は、コアの進化と同じくらいHBMの進化に支えられています。
よくある質問
HBMを増やせばAIモデルはいくらでも大きくできますか？
メモリ容量だけの問題ではありません。HBMの容量・帯域幅に加えて、GPU間ネットワークや電力・冷却など他のボトルネックも同時に解消する必要があります。またHBMは製造・パッケージングの難易度が高く、供給量そのものが制約になることもあります。
HBMはどのメーカーが作っていますか？
2026年時点で、SK hynix・Samsung・Micronの3社がHBMの主要な供給元です。GPUメーカーはこれらのメーカーからHBMを調達し、TSMCなどのファウンドリでGPUダイと一体にパッケージングします。
