Операции отношения могут давать ошибочные результаты для вещественных чисел из-за эффектов округления. 2 Они связаны с ограниченным количеством значащих цифр в мантиссе представления действительных чисел в компьютере. 2
Например, два вроде бы одинаковых числа могут оказаться неравными из-за разницы значения в 15-м знаке после запятой. 1 Для корректного сравнения двух вещественных чисел рекомендуется сравнивать нормализованную разницу этих чисел с нулевым значением. 1
Также ошибки округления возникают при переводе вещественных чисел из десятичной системы счисления в двоичную, с которой работает большинство современных компьютеров. 5 Некоторые конечные десятичные дроби в двоичной системе представляются бесконечными, что также приводит к ошибкам округления с учётом ограниченности мантиссы. 5