Чем различаются формулы шеннона и хартли?

Формулы Шеннона и Хартли различаются подходом к определению количества информации. book.kbsu.ru victor-safronov.ru

Формула Хартли рассматривает процесс получения информации как выбор одного сообщения из конечного заданного множества N равновероятных событий. yandex.ru book.kbsu.ru Количество информации I, содержащееся в выбранном сообщении, определяется как двоичный логарифм N (формула Хартли: I = log2N). book.kbsu.ru

Формула Шеннона учитывает возможную неодинаковую вероятность событий в наборе. yandex.ru book.kbsu.ru Она предполагает, что количество информации для событий с различными вероятностями можно определить по формуле: I = - Sum рi log2 рi, где I — количество информации, К — количество возможных событий, рi — вероятности отдельных событий. infourok.ru

Таким образом, формула Хартли применяется для равновероятных событий, а формула Шеннона — для событий с различными вероятностями. yandex.ru webium.ru

Пользователь

Время добавления