Почему алгоритм Хаффмана становится неэффективным при малой энтропии данных?

Алгоритм Хаффмана становится неэффективным при малой энтропии данных, потому что для источника с энтропией, не превышающей 1 (например, для двоичного источника), непосредственное применение кода Хаффмана бессмысленно. ru.wikipedia.org

Это связано с тем, что для восстановления содержимого сжатого сообщения декодер должен знать таблицу частотностей, которой пользовался кодер. ru.wikipedia.org moluch.ru Следовательно, длина сжатого сообщения увеличивается на длину таблицы частотностей, которая должна посылаться впереди данных, что может свести на нет все усилия по сжатию сообщения. ru.wikipedia.org moluch.ru

Кроме того, необходимость наличия полной частотной статистики перед началом кодирования требует двух проходов по сообщению: одного для построения модели сообщения (таблицы частотностей и Н-дерева), другого — для собственно кодирования. ru.wikipedia.org moluch.ru