Chapter 7

第7章: メモリ半導体 — 覚えておく大陸

2023 年、AI 業界に不思議な悲鳴が流れた。

GPU の在庫はある。でも HBM が足りないから、AI サーバが出荷できない

主役のはずだった NVIDIA の最先端 GPU ではなく、その 隣に並べる特殊なメモリ が世界中で枯渇したのだ。
それまで地味な脇役だったメモリ半導体は、この瞬間、ロジックと並ぶ主役の座に押し上げられた。

なぜ AI には特別なメモリが要るのか。そもそも DRAM・NAND・SRAM はどう違うのか。
覚えておく大陸を、この章で歩いて回る。

7.1 計算には必ず「覚えておく場所」が要る

CPU や GPU は計算する。だが、計算には 「いま使うデータ」「あとで使うデータ」を置いておく場所 が必要だ。

机の上で仕事をするときを思い出してほしい。

メモリ半導体も、この 「速さ」と「容量」と「消えるか否か」のトレードオフ で役割分担している。

7.2 揮発性 vs 不揮発性 ── 大分類

まずは大きな仕切り。メモリは「電源を切ったらどうなるか」で 2 種類に分かれる。

種類電源を切ると速さビット単価代表
揮発性メモリ消える速い高いDRAM、SRAM
不揮発性メモリ残る遅い安いNAND フラッシュ

揮発性の代表が DRAM、不揮発性の代表が NAND、そして CPU のすぐ脇にある超高速タイプが SRAM ── まずこの 3 種類だけ覚えれば十分だ。

7.3 DRAM ── 主記憶を支える定番

DRAM (Dynamic Random Access Memory) は、PC やスマホの 主記憶(メインメモリ) として使われる揮発性メモリだ。

「メモリ 16GB」「メモリ 32GB」と書いてあったら、ほぼ DRAM の容量のこと。

DRAM の中身は驚くほどシンプル:

シンプルだから 1 mm² あたり数億ビットを詰め込める。 ところが弱点がある ── キャパシタの電荷は時間とともに漏れる。 そこで DRAM は 数十ミリ秒ごとに全セルを読み直して書き戻す 必要がある。これを リフレッシュ と呼び、ここから “Dynamic”(動的)という名前が来ている。

DRAM は 速くて密度が高いが、電源を切ると消える
リフレッシュという「忘れる前に再記憶する」儀式によって、はじめてメモリとして成立する。

DRAM は用途ごとに「形」を変える

DRAM チップ自体は同じ仕組みだが、どこに刺さるか で形と規格が変わる。

形態用途規格名
DIMMPC のメモリスロットに刺さる細長い基板DDR4、DDR5
LPDDRスマホ向け、低消費電力版LPDDR4、LPDDR5
HBMAI GPU の隣に縦積みで並べるHBM3、HBM3e

家電量販店で「DDR5 メモリ 32GB」と売っている細長い基板が DIMM、スマホの SoC の隣でくっついているのが LPDDR、AI GPU の脇に積み上がっているのが HBM ── 中身は全部 DRAM 系である。

主要プレイヤー(DRAM 市場シェア、2024 年目安):

会社シェア本社
Samsung約 41%韓国
SK hynix約 35%韓国
Micron約 22%米国
中国系 (CXMT 等)数%中国

実質 3 社の寡占。これが世界の主記憶を支えている。

7.4 NAND ── 電源を切っても消えない倉庫

NAND フラッシュ は、SSD・USB メモリ・SD カード・スマホストレージとして使われる 不揮発性メモリ だ。

「ストレージ 256GB」「512GB」と書いてあったら、たいてい NAND の容量。

NAND は 電荷を絶縁体で囲い込んで保持 する仕組み。一度書き込むと、電源を切っても 数年〜十数年 データを保持する。

DRAM と比べると性格は対照的:

項目DRAMNAND
揮発性揮発不揮発
アクセス速度数 ns(ナノ秒)数十 μs(マイクロ秒)
寿命半永久書込み回数に制限あり
用途主記憶ストレージ

NAND の進化の方向は、3D 化(縦積み) だ。 平面に詰め込む限界を突破するため、メモリセルを 数百層 まで縦に積み上げている(2024 年時点で 200〜300 層級)。「3D NAND」と呼ばれるこの構造が、いまや NAND の標準になっている。

主要プレイヤー:

会社本社
Samsung韓国
SK hynix(Solidigm 含む)韓国
Kioxia(旧東芝メモリ)日本
Micron米国
Western Digital(SanDisk)米国

NAND は DRAM よりプレイヤーが多く、競争が激しい。

7.5 SRAM ── CPU 内蔵の超高速メモリ

SRAM (Static Random Access Memory) は、CPU や GPU の内部に組み込まれるキャッシュメモリ として使われる超高速メモリだ。

DRAM と違って、キャパシタを使わず トランジスタ 6 個 で 1 ビットを保持する。常に値を保持し続けるので「Static(静的)」── リフレッシュが要らない。

項目SRAMDRAM
1 ビットあたりの素子トランジスタ 6 個トランジスタ 1 + キャパシタ 1
速さDRAM より 10 倍以上速い速い
密度低い(面積を食う)高い
リフレッシュ不要必要
用途CPU/GPU 内蔵キャッシュ主記憶

SRAM は チップの外には売られない。CPU や GPU の内側に組み込まれて出荷されるからだ。 だが、最先端ロジックチップの面積の 3〜5 割 は SRAM が占めている。表に出ない巨大なマーケットの裏方である。

7.6 HBM ── DRAM を縦に積んで、GPU の隣に並べる

ここからが本章のクライマックスだ。

HBM (High Bandwidth Memory) は、DRAM を縦に積み上げて GPU のすぐ隣に並べた特殊なメモリ である。 2013 年に SK hynix が AMD と共同で初代を発表。当初は限定的な用途だったが、AI 時代に状況が一変した。

なぜ HBM が必要なのか ── メモリウォール

AI GPU は秒間数兆回の計算ができる。だが、計算するにはメモリから次の値を持ってこなければならない。

メモリウォール ── 計算より、データを運ぶ方が遅くなる現象。
GPU の演算ユニットがいくら速くても、メモリから次の値が届かなければ手が止まる。生成 AI の学習・推論ではこのボトルネックが特に深刻だ。

そこで HBM は、

ことで、通常の DRAM の 数十倍 の帯域幅(=1 秒間に運べるデータ量)を稼ぐ。 要するに 「GPU の隣に DRAM を縦積みで並べた塊」 ── これが HBM の正体である。

共通の基板の上に GPU と HBM を並べるGPU ダイHBM スタック(DRAM を 8〜16 層縦積み)HBM スタック縦に積む技術 + 隣に並べる技術の詳細は第12章(先端パッケージング)で扱う
図 7.1 — HBM と GPU の位置関係。GPU の両脇に DRAM を縦積みしたスタックを置く。

世代別 HBM:

世代容量 / スタック帯域 (GB/s)採用例
HBM2e16GB約 460NVIDIA A100
HBM324GB約 819NVIDIA H100
HBM3e36GB約 1200NVIDIA H200、B100/B200
HBM448GB+約 1500+次世代 AI GPU 向け(量産前夜)
接続技術の詳細は次の章で

HBM を GPU の隣に「どうやって」並べるか ── そこには シリコン貫通電極中間配線層 など独自の技術が使われる。これらは半導体の パッケージング という別の世界の話なので、第 12 章 でまとめて扱う。本章では「縦に積んで GPU の隣に置く」までで止めておく。

7.7 三国志 ── 寡占構造と景気循環

最後に、メモリ業界の構造をひとまとめに見ておく。

DRAM は実質 3 社、NAND は 5 社

DRAM の市場は、現在 Samsung・SK hynix・Micron の 3 社で 95% 以上。NAND もこれに Kioxia・Western Digital を加えた 5 社で 90% 以上を握る。

ところが面白いのは、HBM だけはこの序列が逆転している ことだ。

会社DRAM シェアHBM シェア
SK hynix約 35%(2 位)約 50%(首位)
Samsung約 41%(1 位)約 40%
Micron約 22%(3 位)約 10%(HBM3e で急上昇中)

NVIDIA は SK hynix を最優先パートナーにしている。DRAM の王者 Samsung が、HBM では SK hynix に後れを取った ── これが現在のメモリ業界の最大の物語である。

理由は、DRAM を縦に積む量産技術 で SK hynix が先行していたから。
ここでも勝負を決めたのは「使うチップそのもの」ではなく、「作る難しさ」だった。
最先端 AI 半導体の本当の戦場は、設計図ではなく 歩留まり にある。

景気循環 ── メモリは典型的コモディティ

メモリ業界は過去 30 年間、「過剰投資 → 不況 → 弱者撤退 → 寡占」 を何度も繰り返してきた。

歴史的な撤退例:

メモリは典型的なコモディティだ。差別化が難しく、価格競争に陥りやすい。
みんなが余っているときも誰も生産を絞らず、底値で叩き合う」構造があり、半導体産業の中でも景気変動が特に激しい。
ニュースで「メモリ価格、4 半期で 30% 上昇」「半年で半額」のような見出しが頻発するのはこのためである。

7.8 これから ── CXL、PIM、新メモリ

将来の話を少しだけ。

これらが本格化すれば、メモリと計算の境界が曖昧になる。「メモリ半導体」というカテゴリ自体が、いずれ再定義されるかもしれない。

7.9 この章の振り返り

この章で読めるようになるニュース

次章は アナログ・パワー半導体。 微細化とは別の物差しで動く、「縁の下の主役」たちの世界へ。