Как работает технология аппаратного префетчинга в современных процессорах?

Аппаратный префетчинг (prefetching) — это метод, при помощи которого заранее определяется, к каким областям памяти в будущем пойдут обращения. cpp-kt.github.io Он работает на уровне кэш-подсистемы процессора, а не компилятора или ОС. cpp-kt.github.io

Принцип работы: префетчер следит за шаблонами доступа к памяти и пытается предсказать, какие следующие фрагменты памяти понадобятся. abertschi.ch Затем он заранее загружает эти предсказания в кэш. abertschi.ch

Один из способов реализации: улавливание последовательных обращений к памяти. cpp-kt.github.io Например, если сначала обращаются к первой ячейке, а потом — ко второй, то можно заранее начать обращение к третьей. cpp-kt.github.io

Некоторые виды аппаратного префетчинга:

• Stream Prefetcher. abertschi.ch Загружает несколько строк кэша вперёд. abertschi.ch Обычно требует фазы прогрева, чтобы подтвердить шаблон доступа. abertschi.ch
• Stride Prefetcher. abertschi.ch Аналогичен Stream Prefetcher, но позволяет переменный шаг доступа. abertschi.ch

В современных процессорах обычно есть несколько префетчеров: два для L1 и по одному для L2 и L3. cpp-kt.github.io