Вопросы к Поиску с Алисой
Погрешность при ручном решении уравнений с плавающей запятой возникает из-за несоответствия между десятичной системой счисления и двоичным представлением чисел в компьютере. kurshub.ru
Многие десятичные дроби, которые выглядят конечными и точными для человека (например, 0.1, 0.2 или 0.7), в двоичной системе оказываются бесконечными периодическими дробями. kurshub.ru Поскольку компьютер может хранить только конечное количество знаков, такие числа неизбежно округляются, что приводит к небольшим погрешностям. kurshub.ru
Эти погрешности накапливаются при выполнении арифметических операций. kurshub.ru Особенно опасно вычитание близких чисел и сложение чисел с сильно различающимися порядками. kurshub.ru
Кроме того, выделяют погрешность метода: иногда решается не та задача, которая должна быть решена, а некоторая другая, решение которой может быть найдено и в той или иной степени близко к нужному решению исходной. mech.math.msu.su