Параллельная конфигурация программного обеспечения работает следующим образом: большая вычислительная задача разбивается на множество простых, которые решаются параллельно и независимо. 2
Истинный параллелизм возможен только при многопроцессорной обработке. 1 При наличии только одного процессора иллюзия параллельного выполнения процессов или нитей создаётся с помощью планировщика операционной системы, который разделяет доступные ресурсы обработки на маленькие порции. 1
Один из распространённых механизмов реализации параллелизма — многозадачность. 1 Операционная система имитирует параллелизм при наличии одного CPU, чередуя выполнение разных задач. 1
Также существует модель fork/join. 2 Она предполагает, что программа разбивается на отдельные участки, только часть из которых является параллельными блоками, а также присутствуют области синхронизации параллельных веток программы. 2 В определённых точках последовательного кода программа «расходится» на несколько параллельных потоков (процессов). 2 Выполнение параллельного участка происходит независимо, и затем, по завершении вычислений, происходит объединение «веток» программы. 2