Mover datos entre la Memoria RAM y los registros de la CPU es una de las operaciones que debe desempeñar una CPU que consumen más tiempos, simplemente porque la Memoria RAM es mucho más lenta que la CPU.

Una solución parcial a este problema es incluir una Memoria caché en la CPU. La memoria caché es similar a la Memoria RAM, excepto que es muy rápida comparada con la memoria normal, y se usa en forma diferente.

Cuando un programa está corriendo y la CPU necesita leer datos o instrucciones desde la RAM, la CPU verrifica primero para ver si los datos están en la memoria caché. Si los datos que necesita no están ahí, lee los datos desde la RAM a sus registros, pero también carga una copia de los datos en la memoria caché.

La siguiente vez que la CPU necesite los mismos datos, los encontrará en la memoria caché y ahorrará el tiempo necesarioa para cargar los datos desde la RAM.

Conociendo el tamaño de la mayor parte de los programas y muchos archivos de datos, podrás pensar que las probabilidades de que la CPU encuentre los datos que necesita en la memoria caché son pequeñas, pero en realidad encuentra los datos que necesita con la frecuencia suficiente para mejorar el desempeño de una PC.

Las instrucciones de programas a menudo se encuentran en la memoria caché. Con frecuencia, los programas piden a la computadora que haga la misma operación de manera repetida hasta que se cumpla una condición particular.

En lenguaje de computadora, este proceso repetitivo se llama ciclo (inglés: loop). Por ejemplo, cuando un programa procesador de palabras busca una palabra específica, debe revisar cada palabra en el documento hasta que encuentra una igual.

Si las instrucciones que le dicen a la unidad lógica aritmética cómo encontrar una pareja están en la memoria caché, la unidad de control no tiene que cargarlas desde la memoria RAM cada vez. Como resulta, la búsqueda se completa más rápido.