Оптимизация процесса квантования данных может происходить, например, с помощью калибровки модели. 4 Этот процесс направлен на поиск лучшего диапазона значений для параметров, которые подлежат квантованию. 4

Есть два основных подхода калибровки: 4

1. Статическая калибровка. 4 Происходит с помощью выборки данных до того, как модель будет встроена в устройство и запущена. 4 Это позволяет получить дискретную функцию и не тратить процессорное время на дополнительные преобразования при расчёте модели. 4
2. Динамическая калибровка. 4 Квантование функций активации происходит в реальном времени по тем значениям, которые поступают с их выходов. 4 Такой подход позволяет добиться лучшей точности, но увеличивает время расчёта модели. 4

Также для оптимизации квантования используют оптимальный выбор шага квантования и диапазона, охватываемого уровнями квантования. 5 Это означает компромисс между дисперсией шума в «нормальной» ситуации и его большими выбросами при выходе сигнала за пределы диапазона. 5

Ещё один метод оптимизации — включение ошибки квантования в фазу обучения. 3 Это позволяет сети адаптироваться к квантованным весам и активациям. 3