Использование дробей в инженерных расчётах может повлиять на точность следующим образом:
- При представлении чисел в виде обыкновенных дробей при выполнении арифметических операций значения числителя и знаменателя имеют тенденцию к росту. 1 Это требует «нормализации» или упрощения числа, что может потребовать дополнительных вычислений. 12
- Использование рациональных чисел также может привести к большим числам, так как числитель и знаменатель могут быть очень большими, особенно при выполнении операций вроде сложения и умножения. 2 Это может замедлить работу программы и потребовать больше памяти. 2
- Иррациональные числа, соответствующие бесконечным десятичным дробям, невозможно точно представить в машинном виде. 1 Поэтому они неизбежно имеют погрешность, не превышающую единицу младшего значащего разряда. 1
Таким образом, использование дробей может снижать точность инженерных расчётов в некоторых случаях.