ソフトウェアのプログラムのメモリ・アクセス・パターンを解析すると空間的・時間的な局所性があり,最近使ったデータは近い将来,再度使われる可能性が高いという特性があります.最近アクセスしたデータをプロセッサのできるだけ近くに,そして高速なインターフェースによってアクセス可能な場所に“隠し持つ(Cache)”方法が近年のプロセッサの高速化技法として利用されています.このメモリのことをキャッシュ・メモリと呼びます.プロセッサに最も近いキャッシュ・メモリのことを1 次キャッシュ(L1 キャッシュ),1 次キャッシュのキャッシュ・メモリのことを2 次キャッシュ(L2 キャッシュ),…という具合に,プロセッサの周辺メモリは階層化されています.