Как вероятность влияет на объем передаваемой информации?

Чем меньше вероятность какого-либо события, тем большую неопределённость снимает сообщение о его появлении и, следовательно, тем большую информацию оно несёт. physchem.chimfak.sfedu.ru

И наоборот, сообщение, вероятность которого высока, и, соответственно, низка степень неожиданности, несёт немного информации. physchem.chimfak.sfedu.ru miigaik.ru

Например, в зимнем прогнозе погоды дождь маловероятен, поэтому сообщение о нём несёт самую большую информацию. videouroki.net