Работа с числами с плавающей запятой на CPU и GPU может отличаться по нескольким причинам:

• Порядок выполнения арифметических операций. 1 Параллельные алгоритмы меняют порядок операций. 1
• Поддержка стандарта IEEE 754. 1 Для разных вычислительных устройств характерны различия в поддержке разных версий стандарта. 1 Например, GPU по умолчанию поддерживает операцию умножение-сложение (FMA), которая позволяет выполнять вычисления с высокой точностью. 1
• Формат хранения результатов. 3 CPU обычно выполняет расчёты с плавающей запятой в 80-битном «расширенном» режиме и сохраняет результаты в таком промежуточном формате. 3 Для GPU одинарная точность составляет 32 бита, а двойная — 64 бита. 3
• Математические библиотеки. 1 Для вычислений на GPU используется математическая библиотека NVIDIA CUDA, а для CPU — математические библиотеки, реализованные для использования на CPU (например, GNU C Library для Linux). 1 Поскольку эти реализации развиваются независимо, расчёты на GPU и CPU всегда будут немного отличаться. 1