Для расчёта погрешности измерения при работе с дробными числами используют понятия абсолютной и относительной погрешностей. 12

Абсолютная погрешность — это разница между точным и приближённым числом. 23 Для её расчёта используют формулу: Δ = |x – x0|, где: 4

• Δ — абсолютная погрешность; 4
• x — приближённое (практическое) значение измеряемой величины; 4
• x0 — точное (истинное/теоретическое) значение измеряемой величины. 4

Относительная погрешность — это отношение абсолютной погрешности числа к самому этому числу. 12 Её принято выражать в процентах: полученное отношение нужно умножить на 100%. 1

Некоторые правила подсчёта погрешностей:

• при сложении и вычитании чисел необходимо складывать их абсолютные погрешности; 2
• при делении и умножении чисел требуется сложить относительные погрешности; 2
• при возведении в степень относительную погрешность умножают на показатель степени. 2

Пример: в числе 4,53 верными считаются цифры 4 и 5, а цифра 3 имеет погрешность ±1. 1 При этом погрешность самого числа равна ± 0,01. 1 С указанием погрешности это число должно быть записано так: 4,53 ± 0,01. 1