Guardar cerca una copia de lo que se pide mucho, para no ir a buscarlo lejos cada vez. Funciona por una razón que no es técnica: el mundo se repite muchísimo más de lo que parece. Y deja de funcionar en cuanto deja de repetirse.
Qué mirar: pon Todo se pide igual y sube la caché al máximo: apenas acierta. Ahora vuelve a Uso normal con la caché pequeñísima y mira el porcentaje. Lo que hace útil a una caché no es su tamaño, es que el mundo repita. Y fíjate en la curva de la derecha: pasar de 1 a 20 huecos cambia la vida, y de 100 a 120 no cambia nada. Casi todo el beneficio está en el primer tramo.