Обычно с увеличением числа операторов (усложнением алгоритма) ускорение вычислений возрастает. 1 Это связано с тем, что каждый поток параллельной программы работает со своей частью данных, большая часть которых может попасть в кеш-память, в результате в каждом потоке сокращается время доступа к данным. 4

Однако линейное ускорение редко встречается на практике. 5 С ростом числа процессов возрастает количество накладных расходов. 5 В некоторых случаях это приводит к уменьшению полученного ускорения, а в других — даже к замедлению программы. 5

На эффективность параллельного алгоритма влияют, например, отсутствие максимального параллелизма в алгоритме и/или несбалансированность нагрузки процессоров, обмены, конфликты памяти и время синхронизации. 3