Hubungan Cache Memory, Main Memory, dan Processor

Cache memory adalah memori berbasis SRAM berukuran kecil dan berkecepatan tinggi yang dikendalikan secara otomatis oleh hardware. Cache Memory ini berisi salinan dari memori utama atau Main Memory. Main Memory sendiri biasanya berbasis DRAM karena kelebihannya mengenai harga dan ukuran memori. DRAM sendiri biasanya lebih lambat.

Hubungan CPU, Cache Memory, dan Main Memory terlihat pada bagan (Klik untuk memperbesar gambar)
Pada saat CPU membaca sebuah word memori, maka dilakukan pemeriksaan untuk mengetahui apakah word tersebut berada dalam cache memori. Bila ada dalam cache memori maka dilakukan pengiriman ke CPU, dan bila tidak, maka akan dicari dalam memori utama,selanjutnya blok yang berisi sejumlah word tersebut dikirim ke cache memori dan word yang diminta CPU dikirimkan ke CPU dari cache memori
Lebih mudahnya dengan urutan seperti ini dan alur dibawah ini:
1. CPU membaca word memori
2. Periksa di Cache Memory,
2.1a Jika ada akan dikirim ke CPU
2.1b Jika tidak ada akan dicari ke Memory Utama
2.2b Dikirim ke Cache Memory lalu dikirim ke CPU

Hubungan Alur Pembacaan Cache Memory (Klik untuk memperbesar gambar)
Dengan begitu, dapat kita tahu bahwa dengan adanya Cache Memory, pencarian data (word) lebih efisien, mengingat bahwa Cache Memory membuat salinannya sehingga lebih cepat diakses processor. Namun walau Cache Memory ini cepat, bukan berarti Cache Memory ini dapat menggantikan Main Memory, karena Cache Memory hanya memiliki memori yang kecil, sedangkan Main Memory memiliki kelebihan dalam memorinnya yang lebih besar. Dengan begitu, Cache Memory dan Main Memory bersifat melengkapi dan menyempurnakan satu sama lain sehingga proses pemanggilan dan pemanggilan data oleh CPU lebih efisien