Как закон Амдала влияет на масштабируемость параллельных вычислений?

Закон Амдала накладывает ограничение на масштабируемость параллельных вычислений. ru.wikipedia.org ubiklab.net Согласно этому закону, ускорение выполнения программы за счёт распараллеливания её инструкций на множестве вычислителей ограничено временем, необходимым для выполнения её последовательных инструкций. ru.wikipedia.org

Если учесть время, необходимое для передачи данных между узлами вычислительной системы, то зависимость времени вычислений от числа узлов будет иметь минимум. ru.wikipedia.org Это означает, что с определённого момента добавление новых узлов в систему будет увеличивать время расчёта задачи. ru.wikipedia.org

Кроме того, закон Амдала показывает, что прирост эффективности вычислений зависит от алгоритма задачи и ограничен сверху, поэтому не для всякой задачи имеет смысл наращивание числа процессоров в вычислительной системе. ru.wikipedia.org

Однако это ограничение удалось преодолеть в 1988 году специалисту в области теории вычислительных систем Джону Густафсону. festivalnauki.ru Он доказал, что можно продолжать наращивать производительность, если увеличивать объём вычислений пропорционально количеству параллельных вычислителей. festivalnauki.ru