【初心者エンジニア必見】キャッシュミスとは？仕組み・原因・対策をわかりやすく解説｜パフォーマンス改善の基本

プログラムのパフォーマンス改善を考えるとき、必ずと言っていいほど登場する言葉があります。それが「キャッシュミス」です。

プログラマーやSEとしてシステム開発をしていると、
「なぜか処理が遅い」
「CPU使用率は低いのにレスポンスが悪い」
「データベースは問題ないのに遅い」
といった場面に遭遇することがあります。

その原因の一つとして非常に多いのが、このキャッシュミスです。

実はキャッシュミスを理解するだけで、プログラムの高速化の考え方が一段階レベルアップします。私自身もこの概念を理解してから、システムのボトルネックを見つける力が大きく向上しました。

この記事では、プログラマーやSEの方へ向けて

• キャッシュミスとは何か
• なぜ処理が遅くなるのか
• 現場でどう使われるのか
• 筆者の体験談
• 実務で使える対策
• さらに応用的な最適化の考え方

これらをできるだけわかりやすい言葉で解説していきます。

キャッシュミスとは？一言でいうと「近くにあるはずのデータが無い状態」

まずはキャッシュミスの基本から説明します。

キャッシュミスとは、

キャッシュに保存されているはずのデータが見つからず、より遅いメモリからデータを取りに行くこと

を指します。

ここで重要なのは「キャッシュ」という仕組みです。

コンピュータは処理を高速にするために、よく使うデータをキャッシュと呼ばれる高速な場所に保存します。

データのアクセス速度は次のような順番になっています。

• CPUキャッシュ（非常に高速）
• メインメモリ（RAM）
• SSD / HDD（かなり遅い）

つまりCPUは、まずキャッシュからデータを探します。

もしキャッシュにデータがあれば、すぐに処理できます。
しかしキャッシュに無かった場合、メインメモリから取りに行く必要があります。

このキャッシュにデータが無い状態がキャッシュミスです。

そしてこのキャッシュミスが発生すると、処理速度が大きく低下します。

キャッシュミスが発生すると処理が遅くなる理由

キャッシュミスが問題になるのは、CPUとメモリの速度差が非常に大きいからです。

大まかな目安としては次のような速度差があります。

• CPUキャッシュ：数ナノ秒
• メインメモリ：数十〜百ナノ秒

つまりキャッシュミスが起きると、数十倍遅い場所からデータを取得することになります。

イメージとしてはこうです。

• キャッシュ → 机の上の資料
• メモリ → 本棚の資料

机の上ならすぐ取れますが、本棚に取りに行くと時間がかかります。

プログラムが大量のデータを扱う場合、この差が積み重なって大きなパフォーマンス差になります。

キャッシュミスの種類

キャッシュミスにはいくつか種類があります。

1 コンパルソリミス（初回ミス）

初めてアクセスするデータは、当然キャッシュに存在しません。

そのため最初は必ずキャッシュミスになります。

これは避けることができないミスです。

2 容量ミス

キャッシュの容量は限られています。

そのためデータ量が多すぎると、キャッシュに入りきらなくなります。

結果としてキャッシュからデータが追い出され、再度アクセスしたときにキャッシュミスになります。

3 競合ミス

キャッシュの構造によっては、特定の場所にしかデータを置けないことがあります。

そのため別のデータが同じ場所を使うと、前のデータが追い出されます。

これを競合ミスと呼びます。

【体験談】キャッシュミスが原因で処理が10倍遅くなった話

ここで私の実体験を紹介します。

ある業務システムのバッチ処理を担当していたときのことです。

大量のログデータを集計するプログラムを書いたのですが、処理時間が異常に遅かったのです。

データ量はそこまで多くありません。
SQLも問題ありません。
CPU使用率も低い。

それでも処理が遅いのです。

最初は原因がわからず、かなり悩みました。

調べていくうちに、原因はデータアクセスの順番

私のコードは次のような処理をしていました。