Точность вещественных чисел влияет на алгоритмы поиска квадратного корня следующим образом:
- Приближённое представление вещественных чисел в компьютерной памяти. 1 Точное представление невозможно, поэтому используется приближённое, в котором для числа отводится ограниченное количество бит. 1 Каждая арифметическая операция с вещественными числами сопровождается округлением, которое может нарушить монотонность последовательности. 1
- Приближённое значение квадратного корня большинства положительных вещественных чисел. 2 Оно является иррациональным числом с бесконечной последовательностью десятичных цифр. 2 Как результат, десятичное представление любого такого квадратного корня может быть вычислено только приближённо с конечной точностью (знаков после запятой). 2
Однако есть подход, при котором не требуется задавать точность заранее. 1 В этом случае алгоритм сам найдёт настолько точное решение, насколько это возможно, учитывая точность представления вещественных чисел на данном компьютере. 1