Связь энтропии с вероятностью состояния в статистической физике заключается в том, что энтропия пропорциональна натуральному логарифму термодинамической вероятности. 2

Согласно формуле Больцмана, энтропия равна логарифму (степени) числа микросостояний, неразличимых с макроскопической точки зрения: S = k*logΩ, где S — энтропия, k — постоянная Больцмана, Ω — число микросостояний. 3

Возрастание энтропии означает возрастание вероятности данного состояния системы, то есть самопроизвольно изолированная система может переходить только от состояний, менее вероятных, к состояниям, более вероятным. 4

Таким образом, энтропия показывает разницу между той информацией о системе, которая известна (макроскопическими свойствами), и неизвестной информацией, которая скрыта в устройстве системы на микроскопическом уровне. 3