Почему количество информации зависит от размера диапазона данных?

Количество информации зависит от размера диапазона данных, потому что неопределённость знания (количество возможных вариаций ответа на вопрос) влияет на объём информации. www.yaklass.ru

Сообщение несёт больше информации, если изначально была большая неопределённость. www.yaklass.ru Чем больше вероятность события, тем выше уверенность в том, что оно произойдёт, и тем меньше информации содержит сообщение об этом событии. www.profbeckman.narod.ru Когда же вероятность события мала, сообщение о том, что оно случилось, очень информативно. www.profbeckman.narod.ru

Это связано с формулой Хартли, где N — неопределённость знания (количество возможных исходов какого-то события), а i — количество информации (в битах) в сообщении об одном из N исходов. www.yaklass.ru