Как рассчитывается количество информации при извлечении черного или белого шара?

Для расчёта количества информации при извлечении чёрного или белого шара используется формула Шеннона. eae-1.clan.su in.lit.msu.ru

Формула имеет вид: I = − (p1 log2 p1 + p2 log2 p2 +…+ pN log2 pN), где: in.lit.msu.ru

• I — количество информации; in.lit.msu.ru
• N — количество возможных событий; in.lit.msu.ru
• pi — вероятность i-го события. in.lit.msu.ru

Связь между вероятностью события и количеством информации в сообщении заключается в том, что чем меньше вероятность некоторого события, тем больше информации содержит сообщение об этом событии. in.lit.msu.ru

Пример: в корзине лежат 8 чёрных шаров и 24 белых. eae-1.clan.su in.lit.msu.ru Нужно определить, сколько бит информации несёт сообщение о том, что достали чёрный шар. eae-1.clan.su in.lit.msu.ru

Решение: общее число исходов: 8 + 24 = 32, число благоприятствующих исходу событий равно 8. in.lit.msu.ru Вероятность выбора чёрного шара определяется как p = 8 / 32 = 1 / 4 = 0,25. in.lit.msu.ru

Количество информации вычисляется из соотношения 2i = 1 / 0,25 = 1 / (1/4) = 4, значит, I = 2 бита. in.lit.msu.ru