Как рассчитать энтропию при подбрасывании игральной кости?

Для расчёта энтропии при подбрасывании игральной кости, когда вероятности результатов опыта неодинаковы, используют формулу Шеннона. swsu.ru

Энтропия — мера неопределённости некоторого опыта. swsu.ru В простейшем случае исход зависит от выбора одного элемента из множества исходных. swsu.ru

Пример: при бросании шестигранной игральной кости выпадение, например, трёх очков происходит с вероятностью W = 1/6. de.ifmo.ru Сумма вероятностей всех возможных событий равна единице. de.ifmo.ru

Формула Шеннона имеет вид: H = − Pi × log2 Pi, где Pi — вероятность результата опыта. swsu.ru

В случае равновероятного выпадения каждой из граней игральной кости используют формулу Хартли: H = log2 N, где N — количество граней. swsu.ru