В чем разница между вероятностной и классической формулой Хартли?

Возможно, имелись в виду формулы Хартли и Шеннона, которые относятся к разным подходам измерения информации. urok.1sept.ru book.kbsu.ru

Формула Хартли была предложена Ральфом Хартли в 1928 году и предназначена для измерения количества информации в сообщении с равновероятными символами. ru.wikipedia.org ru.ruwiki.ru Формула имеет вид: I = K × log₂ N, где: ru.wikipedia.org

• N — количество символов в используемом алфавите (мощность алфавита); ru.wikipedia.org ru.ruwiki.ru
• K — длина сообщения (количество символов в сообщении); ru.wikipedia.org ru.ruwiki.ru
• I — количество информации в сообщении в битах. ru.wikipedia.org ru.ruwiki.ru

Формула Шеннона была предложена американским учёным Клодом Шенноном в 1948 году и учитывает возможную неодинаковую вероятность сообщений в наборе. multiurok.ru book.kbsu.ru Формула имеет вид: I = − (p₁ log₂ p₁ + p₂ log₂ p₂ + … + pN log₂ pN), где: book.kbsu.ru

• pi — вероятность того, что именно i-е сообщение выделено в наборе из N сообщений. book.kbsu.ru

Таким образом, разница между формулами заключается в том, что формула Хартли работает в случае равновероятных событий, а формула Шеннона — когда события не равновероятны. ru.wikipedia.org urok.1sept.ru При этом в случае равной вероятности событий формула Шеннона переходит в формулу Хартли. swsu.ru