Некоторые особенности параллельных алгоритмов выполнения арифметических операций в компьютерных системах:

• Одновременное выполнение нескольких последовательных вычислений. 1 Результаты этих вычислений используются для получения общего результата. 1
• Неопределённость в порядке выполнения действий. 1 Каждый параллельный процесс «живёт в своём мире по своим часам». 1 Это может приводить к образованию тупиков и выдаче неверных результатов. 1
• Масштабируемость. 15 Параллельный алгоритм может ускорять вычисления пропорционально увеличению числа используемых процессоров. 5
• Возможность выделения фрагментов алгоритма, которые могут выполняться независимо. 2 Например, при мелкозернистом параллелизме можно выделить подзадачи, в которых выполняется лишь несколько операций. 2
• Необходимость учёта особенностей вычислительной системы. 5 Нужно выбирать наилучшую архитектуру параллельной системы под процесс вычислений и создавать параллельные методы, которые учитывают свойства конкретной вычислительной системы. 5