Компьютерное представление вещественных чисел влияет на точность вычислений следующим образом: результаты вычислений всегда будут заведомо неточными, содержащими неизбежную погрешность. 1 Это связано с тем, что код вещественного числа в компьютере является приблизительным представителем многих чисел из интервала. 1
Причина возникновения погрешности — ограниченность разрядной сетки при представлении чисел. 1 Однако её величину можно уменьшить за счёт расширения разрядной сетки, то есть выделения большего количества ячеек памяти для записи числа. 1
Например, чем больше разрядов отводится под запись мантиссы, тем выше точность представления числа. 3 Однако повышение точности вычислений требует больших ресурсов памяти компьютера, одновременно с этим возрастает и время вычислений. 1
Также для повышения точности вычислений могут использоваться денормализованные числа, которые увеличивают количество представимых числом с плавающей запятой значений около нуля. 5