В чем заключается физический смысл энтропии информации?

Физический смысл энтропии информации заключается в том, что энтропия — это количественная мера неопределённости состояния физической системы. intuit.ru books.ifmo.ru

Степень неопределённости определяется числом возможных состояний системы и вероятностями этих состояний. books.ifmo.ru portal.tpu.ru Чем больше получено сведений о системе, тем больше будет информация о ней, менее неопределённым будет её состояние. books.ifmo.ru Поэтому количество информации о системе измеряют уменьшением энтропии этой системы. books.ifmo.ru