Некоторые различия между традиционной математикой и компьютерной арифметикой при работе с дробями:
- Количество цифр в числе. 1 В математике число может состоять из любого количества цифр, которое требуется в решаемой задаче. 1 В компьютерной арифметике число разрядов, отведённых для хранения каждого числа, ограниченно, и точность вычислений тоже ограниченна. 1
- Представление дробных чисел. 1 В математике дробные числа могут записываться точно, например, в виде числителя и знаменателя, разделённых горизонтальной или наклонной чертой. 2 В компьютерной арифметике даже некоторые «круглые» числа (например, 0,2) представлены неточно, потому что в двоичной системе они записываются как бесконечные дроби и их приходится округлять до заданного числа разрядов. 1
- Предельные значения чисел. 1 Числа, хранящиеся в компьютере, не могут быть сколь угодно большими и имеют некоторые предельные значения. 1
Таким образом, традиционная математика позволяет работать с дробями более точно и с большим количеством цифр, в то время как компьютерная арифметика имеет ограничения, связанные с особенностями представления чисел в компьютере и ограниченностью его ресурсов.