Как формула Хартли связана с энтропией в математической теории информации?

Формула Хартли связана с энтропией в математической теории информации, так как в случае равновероятных символов формула Хартли совпадает с формулой Шеннона, которая определяет информационную энтропию. urok.1sept.ru

Формула Хартли предложена американским учёным Р. Хартли в 1928 году и используется для измерения количества информации в сообщении с равновероятными символами. www.miigaik.ru urok.1sept.ru

Энтропия — мера хаотичности информации, которая определяет неопределённость появления символа в сообщении. urok.1sept.ru К. Шеннон ввёл понятие энтропии в теорию информации. urok.1sept.ru

Взаимосвязь энтропии и информации выражается формулой: H + I = 1, где Н — энтропия, I — информация. profbeckman.narod.ru