Какие существуют методы управления параллельными процессами в многопроцессорных системах?

Некоторые методы управления параллельными процессами в многопроцессорных системах:

• Синхронизация. kpfu.ru Согласование по времени выполнения параллельных заданий. kpfu.ru Включает в себя ожидание того, что выполнение задачи достигнет особой точки — точки синхронизации. kpfu.ru После того как все задания достигнут этой точки, выполнение заданий может быть продолжено до следующей точки синхронизации. kpfu.ru
• Модель передачи сообщений (MPI). kpfu.ru Работу процессоров синхронизируют функции обмена данными. kpfu.ru
• Параллелизм типа «коллективного решения». pvs-studio.ru Удобен при проведении вычислений, распадающихся на большое количество однотипных задач, каждая из которых решается независимо от остальных. pvs-studio.ru Передачи данных между такими задачами нет, а значит, полностью отсутствует необходимость их взаимной синхронизации. pvs-studio.ru
• Взаимное исключение потоков при работе с общими данными. www.software.unn.ru Например, в OpenMP взаимоисключение может быть организовано при помощи неделимых операций, механизма критических секций или специального типа семафоров — замков. www.software.unn.ru
• Использование препроцессоров. www.software.unn.ru Указания программиста по организации параллельных вычислений добавляются в программу в виде директив или комментариев, которые обрабатываются специальным препроцессором до начала компиляции программы. www.software.unn.ru