Некоторые методы управления параллельными процессами в многопроцессорных системах:

• Синхронизация. 1 Согласование по времени выполнения параллельных заданий. 1 Включает в себя ожидание того, что выполнение задачи достигнет особой точки — точки синхронизации. 1 После того как все задания достигнут этой точки, выполнение заданий может быть продолжено до следующей точки синхронизации. 1
• Модель передачи сообщений (MPI). 1 Работу процессоров синхронизируют функции обмена данными. 1
• Параллелизм типа «коллективного решения». 2 Удобен при проведении вычислений, распадающихся на большое количество однотипных задач, каждая из которых решается независимо от остальных. 2 Передачи данных между такими задачами нет, а значит, полностью отсутствует необходимость их взаимной синхронизации. 2
• Взаимное исключение потоков при работе с общими данными. 4 Например, в OpenMP взаимоисключение может быть организовано при помощи неделимых операций, механизма критических секций или специального типа семафоров — замков. 4
• Использование препроцессоров. 4 Указания программиста по организации параллельных вычислений добавляются в программу в виде директив или комментариев, которые обрабатываются специальным препроцессором до начала компиляции программы. 4