Принцип построения оптимального префиксного кода заключается в том, чтобы тем знакам первичного алфавита, которые встречаются в сообщении чаще, присвоить меньшие по длине коды, а для знаков с малыми вероятностями использовать более длинные коды. 5
Другими словами, коды знаков первичного алфавита, вероятность появления которых в сообщении выше, следует строить из возможно меньшего числа элементарных сигналов, а длинные коды использовать для знаков с малыми вероятностями. 5
Один из алгоритмов построения оптимального префиксного кода — алгоритм Хаффмана. 14 Его идея в том, что, зная вероятности появления символов в сообщении, можно описать процедуру построения кодов переменной длины, состоящих из целого количества битов. 1 Символам с большей вероятностью ставятся в соответствие более короткие коды. 1