Как энтропия Шеннона связана с термодинамической энтропией?

Энтропия Шеннона и термодинамическая энтропия связаны тем, что их формулы подобны. habr.com Термодинамическая энтропия пропорциональна логарифму возможных физических состояний, а количество информации пропорционально логарифму возможных исходов события. habr.com

С точки зрения математики, энтропия Шеннона — это просто отнесённая к одной частице (удельная) энтропия Больцмана. matan.math.msu.su При этом значения у этих величин будут различаться, например, для микросхемы, хранящей 1 Гб данных, информационная энтропия составит порядка 1010 бит, а термодинамическая (при комнатной температуре) — порядка 1023. habr.com

Также информационную и термодинамическую энтропии связывает предел Ландауэра — минимальное количество энергии, необходимой для стирания одного бита информации. habr.com