Точность вещественных чисел влияет на алгоритмы поиска квадратного корня следующим образом:
- Приближённое представление вещественных чисел в компьютерной памяти. mech.math.msu.su Точное представление невозможно, поэтому используется приближённое, в котором для числа отводится ограниченное количество бит. mech.math.msu.su Каждая арифметическая операция с вещественными числами сопровождается округлением, которое может нарушить монотонность последовательности. mech.math.msu.su
- Приближённое значение квадратного корня большинства положительных вещественных чисел. ru.wikipedia.org Оно является иррациональным числом с бесконечной последовательностью десятичных цифр. ru.wikipedia.org Как результат, десятичное представление любого такого квадратного корня может быть вычислено только приближённо с конечной точностью (знаков после запятой). ru.wikipedia.org
Однако есть подход, при котором не требуется задавать точность заранее. mech.math.msu.su В этом случае алгоритм сам найдёт настолько точное решение, насколько это возможно, учитывая точность представления вещественных чисел на данном компьютере. mech.math.msu.su