Точность математических вычислений определяется количеством цифр результата, заслуживающих доверия. 24 При этом не имеет значения число десятичных знаков после запятой. 2

Также для оценки точности используют относительную погрешность. 34 Это отношение абсолютной погрешности к приближённому числу, взятому по модулю. 3 Для большинства инженерных задач относительная погрешность вычисления или измерения 3–5% считается допустимой и характеризует вполне удовлетворительный результат. 4 В отдельных задачах допустима более высокая относительная погрешность, порядка 10%. 4

Чтобы погрешности вычислений не вносили искажений в конечный результат, все вычисления следует проводить с количеством значащих цифр, превышающим как минимум на единицу количество значащих цифр результатов измерений. 1