Формула Шеннона считается основополагающей в теории информации, потому что она позволяет измерять количество информации и оценивать такие характеристики, как пропускная способность каналов или оптимальность кодирования. 2

Вот некоторые причины, по которым это достигается с помощью формулы Шеннона:

• Учёт разновероятности состояний. 4 Формула имеет статистический характер и учитывает структуру сообщений, что делает её удобной для практических вычислений. 4
• Определение основной единицы количества информации — бита. 1 Шеннон определил её как сообщение, представляющее один из двух вариантов: «да» — нет. 1
• Введение понятия энтропии. 2 Учёный назвал общий потенциал информации в системе сообщений энтропией и получил возможность работать с информацией — в первую очередь, измерять её и оценивать. 2