Выбор шага квантования критически важен для точности цифрового сигнала, потому что он определяет погрешность преобразования аналогового сигнала в цифровой. 23

При квантовании действительное мгновенное значение функции заменяется дискретным значением, что приводит к погрешности (шуму квантования). 2 Её абсолютное значение в каждый момент времени определяется разностью между квантованным значением и действительным мгновенным значением функции. 2

Например, при равномерном квантовании с постоянной величиной интервала квантования относительная точность передачи малых значений сигнала оказывается значительно хуже, чем больших значений. 1 В таких случаях применяют нелинейное квантование, например логарифмическое, когда шаг квантования пропорционален логарифму входного напряжения. 1 При квантовании малых значений сигнала шаг квантования оказывается малым, а точность передачи сигнала — достаточно высокой. 1 При больших значениях входного сигнала интервал квантования увеличивается. 1

Таким образом, правильный выбор шага квантования позволяет более точно отображать критические части сигнала, уменьшая общую ошибку квантования. 3