Die Speicherhierarchie für Workstations und PC`s sieht in etwa folgendermaßen aus (von links nach rechts in aufsteigender Reihenfolge der Zugriffszeiten/Speichergrößen). Die angegebenen Werte sind Größenordnungen:
Ziel der optimierten Programmierung ist das Operieren auf den lokalen=schnell zugänglichen Daten im Cache. Falsche Programmierung durch irreguläre Speicherzugriffe erhöht die Laufzeit manchmal um Größenordnungen, da aus dem jeweils langsameren Memory in den Cache nachgeladen werden muß (Cache--Miss, im Gegensatz zum Cache--Hit). Ein Problem ergibt sich bei indirekten Adressierungen, wenn statt auf einen Vektor mit den Elementen real a(l) durch indirekte Adressierung mit einem Vektor integer i(l) häufig auf a(i(j)) zugegriffen werden muß: Je nach i(l) kann der Speicherzugriff sehr irregulär ausfallen.