Почему энтропия считается мерой неопределенности?

Энтропия считается мерой неопределённости, потому что она позволяет измерять взаимосвязь между принципами неупорядоченности и неопределённости. nuancesprog.ru

Чем выше энтропия, тем больше неопределённости связано с определением символа (числа, буквы и т. д.). nuancesprog.ru Например, если вероятность одного из значений равна 1 (а все остальные равны 0), то энтропия равна 0, так как нет никакой неопределённости. trends.rbc.ru Если же все значения равновероятны, то энтропия максимальна. trends.rbc.ru

Кроме того, чем выше уровень неопределённости, тем сложнее планировать и принимать решения. yandex.ru dzen.ru Например, если не знать, какая завтра будет погода, затруднительно решить, стоит ли предложить друзьям прогулку, какую одежду приготовить, чем лучше заняться и т. д.. yandex.ru