GPU подходит для параллельных вычислений, а CPU — для последовательных, потому что у этих процессоров разные архитектуры. 15

CPU создан для исполнения одного потока последовательных инструкций с максимальной производительностью. 25 Он оптимизирован для достижения высокой производительности единственного потока команд, обрабатывающего и целые числа, и числа с плавающей точкой. 5 При этом доступ к памяти с данными и инструкциями происходит преимущественно случайным образом. 5

GPU, в свою очередь, изначально проектировался для выполнения огромного количества параллельных потоков команд. 5 Эти потоки команд распараллелены изначально, и никаких накладных расходов на распараллеливание инструкций в графическом процессоре нет. 5

Некоторые другие особенности архитектуры, которые делают GPU подходящим для параллельных вычислений:

• Поддержка многопоточности. 1 CPU исполняет 1–2 потока вычислений на одно процессорное ядро, а видеочипы могут поддерживать до 1024 потоков на каждый мультипроцессор, которых в чипе несколько штук. 1
• Принцип работы с памятью. 1 Память GPU оптимизирована на максимальную пропускную способность (а не на скорость произвольного доступа, как у CPU), что ускоряет загрузку потока данных. 3
• Конвейерная обработка данных. 3 При запросах к памяти, за счёт конвейерной обработки данных, не происходит приостановки вычислений. 3