В чем отличие методов Хартли и Шеннона при подсчете информации?

Основное отличие методов Хартли и Шеннона при подсчёте информации заключается в условиях, для которых они применяются.

Метод Хартли (алфавитный, объёмный) предполагает, что каждый символ сообщения имеет определённый информационный вес и несёт фиксированное количество информации. moodle.kstu.ru Формула Хартли работает только в том случае, когда появление символов равновероятно и они статистически независимы. scienceforum.ru spravochnick.ru

Метод Шеннона (содержательный, вероятностный) предполагает, что информативность сообщения характеризуется содержащейся в нём полезной информацией — той частью сообщения, которая снимает полностью или уменьшает неопределённость какой-либо ситуации. nsportal.ru Формула Шеннона позволяет вычислять количество информации в сообщении об одном из событий, но не равновероятных. scienceforum.ru

Таким образом, метод Хартли ориентирован на ситуации, когда ни один из символов не имеет преимущества перед другими, а метод Шеннона — на случаи, когда символы имеют различные вероятности реализации. urok.1sept.ru

При этом формулу Хартли можно рассматривать как частный случай формулы Шеннона: если все события равновероятны, то формула Шеннона совпадает с формулой Хартли. scienceforum.ru infourok.ru