В чем заключается принцип измерения количества информации по формуле Хартли?

Принцип измерения количества информации по формуле Хартли заключается в том, что количество информации, приходящееся на одно сообщение, определяется логарифмом общего числа возможных сообщений. deadbeef.narod.ru physchem.chimfak.sfedu.ru

Формула Хартли: I = log2N, где I — количество информации, N — количество равновероятных сообщений. book.kbsu.ru

Некоторые особенности этого подхода:

• Важна только длина сообщения, его содержание не учитывается. spravochnick.ru
• На количество информации влияет фактор неожиданности сообщения для получателя, который зависит от вероятности его получения. physchem.chimfak.sfedu.ru Чем меньше эта вероятность, тем сообщение более неожиданно и, следовательно, более информативно. physchem.chimfak.sfedu.ru
• Формула Хартли работает только в том случае, когда появление символов равновероятно и они статистически независимы. spravochnick.ru physchem.chimfak.sfedu.ru