CPU演算速度と主記憶アクセス速度の差，あるいは主記憶と磁気ディスクのアクセス速度の差を埋めるためのメモリ。一度アクセスしたデータを高速なメモリに記憶しておき，再びそのデータが必要なときは，その高速なメモリにアクセスすることによりデータアクセスを高速化する方法をキャッシュと呼び，また，この高速メモリをキャッシュメモリという。コンピュータで扱うすべてのデータをCPU演算速度に見合った高速なメモリに記憶しておくことは経済的に不合理である。実際は図のように，高価ではあるが高速なメモリと，速度は遅いが安価なメモリをアクセス頻度に応じて使い分けている。これを記憶装置の階層化といい，キャッシュメモリは階層間の速度差を埋めるために用いられる。