Ошибки при вычислении разрядов чисел могут возникать по разным причинам, среди них:
- Ограниченность места в памяти компьютера, отведённого на хранение чисел. aco.ifmo.ru Это приводит к тому, что точность представления чисел ограничена. aco.ifmo.ru
- Перевод чисел из одной системы счисления в другую. aco.ifmo.ru Погрешность может возникнуть, если основание одной системы счисления не является степенью основания другой. aco.ifmo.ru
- Выполнение арифметических действий над приближёнными числами. aco.ifmo.ru Например, при прибавлении к большому числу малых чисел результат сложения может выйти за пределы точности при округлении. aco.ifmo.ru
- Вычитание близких между собой чисел. aco.ifmo.ru www.excel-vba.ru В этом случае погрешность может быть очень большой, так как даже при малых погрешностях результат их сложения в знаменателе может быть очень малым. aco.ifmo.ru
- Использование стандартов работы с числами, например IEEE754. www.excel-vba.ru В соответствии с его спецификацией в десятичном представлении любого числа допускаются ошибки в 15-м значащем разряде, что приводит к ошибкам в вычислениях. www.excel-vba.ru
Чтобы уменьшить погрешность вычислений, важно правильно организовывать алгоритмы, например, складывать числа в порядке возрастания их абсолютной величины. aco.ifmo.ru