Производительность вычислений может как увеличиваться, так и уменьшаться при увеличении количества команд в системе, в зависимости от алгоритма задачи и других факторов. 13

В некоторых случаях наблюдается линейный прирост производительности с ростом количества вычислителей в системе. 1 Это возможно, например, для алгоритмов, не содержащих последовательных вычислений. 1

Однако есть и ограничение, которое иллюстрирует закон Амдала. 1 Он показывает, что ускорение выполнения программы за счёт распараллеливания её инструкций на множестве вычислителей ограничено временем, необходимым для выполнения её последовательных инструкций. 1

Кроме того, с определённого момента добавление новых узлов в систему может увеличивать время расчёта задачи, так как нужно учитывать время, необходимое для передачи данных между узлами вычислительной системы. 1

Таким образом, прирост эффективности вычислений зависит от алгоритма задачи, и не для всякой задачи имеет смысл наращивание числа процессоров в вычислительной системе. 1