Кэш третьего уровня важен для многопроцессорных систем, потому что он служит для временного хранения важной информации с относительно низкой вероятностью запроса, а также для обеспечения обмена данными между ядрами процессора. 3
Когда процессору необходимо получить данные, поиск он начинает с кэша первого уровня. 2 Если нужной информации в нём нет, он повторяет поиск в кэше второго и третьего уровня, что несколько увеличивает время на выполнение операции. 2 Если поиск завершился неудачей, процессору приходится обращаться к оперативной памяти, что значительно увеличивает время выполнения операции. 2
Таким образом, чем больше объём кэша, тем больше вероятность нахождения в нём нужных данных, а значит, можно сократить задержки. 2
Особенно важен объёмный кэш третьего уровня для серверных систем с большим количеством ядер, так как модели с маленьким кэшем не сумеют обеспечить нужную скорость вычислений для тысяч задач, которые требуется решать в одну единицу времени. 4