Как работает алгоритм сжатия данных без потерь при использовании кода Фано?

Алгоритм сжатия данных без потерь при использовании кода Шеннона-Фано работает следующим образом: github.com ru.wikipedia.org

1. Вычисление вероятностей. github.com Частота каждого символа во входных данных вычисляется для определения вероятности его появления. github.com
2. Сортировка по вероятности. github.com Символы сортируются в порядке убывания в зависимости от их вероятности. github.com
3. Разделение символов. github.com Отсортированные символы разделяются на две группы с примерно равной общей вероятностью. github.com
4. Присвоение кодов. github.com Символам первой группы присваиваются коды, начинающиеся с 0, а символам второй группы — коды, начинающиеся с 1. github.com Этот процесс рекурсивно применяется к каждой группе до тех пор, пока каждый символ не получит уникальный код. github.com
5. Сжатие. github.com Входной текст сжимается путём замены каждого символа соответствующим двоичным кодом. github.com

Алгоритм использует коды переменной длины: часто встречающийся символ кодируется кодом меньшей длины, редко встречающийся — кодом большей длины. ru.wikipedia.org