Для оценки точности результатов в математических вычислениях используются различные методы, например:
- Правила подсчёта цифр. 1 Они указывают, как проводить округление результатов, чтобы обеспечить заданную точность и не производить вычисления с лишними знаками. 1 Например, при сложении и вычитании приближённых чисел в результате следует сохранить столько десятичных знаков, сколько их в приближённом данном с наименьшим числом десятичных знаков. 1
- Понятия абсолютной и относительной погрешностей. 4 Абсолютная погрешность — это разность между приближённым числом и точным значением. 3 Относительная погрешность связана с количеством верных знаков числа: наличие только одного верного знака соответствует относительной погрешности порядка 10%, двух верных знаков — погрешности порядка 1%, трёх верных знаков — погрешности порядка 0,1% и так далее. 3
- Округление. 2 Существует два способа округления: усечение (отбрасывание всех цифр, расположенных правее определённой значащей цифры) и округление по дополнению (если первая цифра слева от отбрасываемой меньше 5, то лишнее просто отбрасывается, а если больше или равна пяти, то в младший сохраняемый разряд добавляется единица). 2