Погрешность при преобразовании арифметических корней в десятичную систему возникает по нескольким причинам:
- Иррациональность значения квадратного корня большинства положительных вещественных чисел. 2 У него бесконечная последовательность десятичных цифр. 2 Поэтому десятичное представление любого такого квадратного корня может быть вычислено только приближённо с конечной точностью (знаков после запятой). 2
- Ограниченность разрядной сетки вычислительных устройств. 1 Для представления чисел в них выделяется ограниченное количество десятичных разрядов, что влечёт автоматическое округление числовых данных. 1 Чем больше разрядная сетка, тем погрешность округлений меньше и, следовательно, с тем большей точностью можно производить вычисления. 1
Таким образом, при преобразовании арифметических корней в десятичную систему погрешность возникает из-за особенностей самого процесса вычисления и ограничений используемых средств вычислений.