Принцип оптимальности двоичных кодов заключается в том, что наиболее вероятным сообщениям должны присваиваться короткие комбинации, а сообщениям с малой вероятностью — более длинные комбинации. 1

Это позволяет сократить среднюю длину кода. 2