Для определения точности вычислений в математике используют понятия абсолютной и относительной погрешностей. 24

Абсолютная погрешность — это разница между приближённым значением и точным. 23 Чтобы её посчитать, из большего числа вычитывают меньшее. 2 Например, если в школе учится 374 ученика, а округлить это число до 400, то абсолютная погрешность измерения будет равна 400 – 374 = 26. 2

Относительная погрешность — это отношение абсолютной погрешности числа к самому этому числу. 2 Её обозначают процентами, потому что это безразмерная величина. 2 Например, если в примере с учениками абсолютная погрешность равна 26, а число учеников — 374, то относительная погрешность составит 26 : 374 = 0,0695, что в процентах равно 7%. 2

Для оценки погрешностей существует несколько правил: 2

• при сложении и вычитании чисел необходимо складывать их абсолютные погрешности; 2
• при делении и умножении чисел требуется сложить относительные погрешности; 2
• при возведении в степень относительную погрешность умножают на показатель степени. 2

Также для повышения точности вычислений используют числа с плавающей запятой большей точности, специальные численные алгоритмы и символические вычисления (например, с использованием систем компьютерной алгебры). 4