Некоторые особенности выполнения математических операций на калькуляторе с плавающей запятой:

• Ограничение точности. 4 Компьютеры могут оперировать вещественными числами только до определённой точности. 4 Чем больше бит для записи числа, тем более точное значение можно сохранить, но восстановить исходное число с абсолютной точностью всё равно не удастся. 4
• Округление. 12 Результат любой арифметической операции округляется до ближайшего числа, представимого в текущем формате. 2 В стандарте IEEE754 применяется правило округления до чётного. 2 Например, 12,5 округляется до 12, а 13,5 — до 14. 2
• Опасность вычитания. 2 При вычитании близких чисел значимые разряды могут потеряться, что может в разы увеличить относительную погрешность. 2
• Согласованное изменение элементов. 3 В числах с плавающей запятой есть два элемента: мантисса и экспонента. 3 При всех операциях они должны изменяться согласованно, что требует дополнительных действий от процессора. 3