В чем заключается преимущество формулы Шеннона перед формулой Хартли?

Преимущество формулы Шеннона перед формулой Хартли заключается в том, что формула Шеннона учитывает возможную неодинаковую вероятность сообщений в наборе, в то время как формула Хартли предполагает, что все сообщения равновероятны. book.kbsu.ru

Таким образом, формула Шеннона даёт более полное представление о количестве информации, которую несёт система в процессе её эксплуатации. vernadsky.tstu.ru

При этом формулу Хартли можно рассматривать как частный случай формулы Шеннона: если все вероятности равны, то формула Шеннона превращается в формулу Хартли. infourok.ru book.kbsu.ru