Почему может произойти промах кэша при выполнении потока?

Промах кэша (cache miss) при выполнении потока может произойти, когда запрашиваемые данные отсутствуют в кэше или уже не актуальны. gist.github.com В таком случае процессор вынужден читать их из относительно медленной оперативной памяти. arch32.cs.msu.ru

Некоторые причины возникновения промахов кэша:

• Недостаточный объём кэша. web.archive.org Чем больше объём кэша, тем большую часть требуемых программе данных он может в себе содержать, тем реже будут происходить обращения к оперативной памяти. web.archive.org
• Алгоритм функционирования кэша. web.archive.org Кэш, оснащённый хорошим алгоритмом, будет гораздо эффективнее использовать свой объём, храня меньше ненужных данных. web.archive.org
• Программа не обладает свойством локальности. arch32.cs.msu.ru Такая программа будет после каждой команды случайным образом переходить на выполнение следующей команды в любой части программы, а обрабатываемые данные также выбирать из областей памяти со случайными адресами. arch32.cs.msu.ru
• Потоки работают с высоким темпом в память. www.cyberforum.ru В таком случае они могут «выбивать» данные из кэша друг у друга. www.cyberforum.ru
• Один процесс работает с объёмом памяти, большим, чем размер кэша. www.cyberforum.ru Поведение кэша зависит от того, по каким адресам в память идут запросы. www.cyberforum.ru Чем больше покрытие по адресам (при суммарном объёме, превышающем размер кэша), тем чаще будет инвалидация. www.cyberforum.ru