Числа с плавающей точкой влияют на точность научных вычислений следующим образом: результат может оказаться неточным. 5 В лучшем случае погрешность связана с округлением результата до подходящего машинно-представимого числа. 5

Кроме того, при определённых операциях (например, при вычитании или сложении) может произойти катастрофическая отмена точности. 2 После таких вычислений старшие разряды операндов аннулируются, и результат будет далёким от истинного, так как на выход возвращается число, сформированное только младшими разрядами аргументов. 2

Чтобы снизить остроту проблемы, некоторые реализации арифметики с плавающей точкой поддерживают совмещение мультипликативной и последующей аддитивной операций с последующим однократным округлением. 2

Для научных и инженерных вычислений, где важна высокая точность, обычно используют числа с двойной точностью. 3