Энтропия Шеннона и термодинамическая энтропия связаны тем, что их формулы подобны. 1 Термодинамическая энтропия пропорциональна логарифму возможных физических состояний, а количество информации пропорционально логарифму возможных исходов события. 1
С точки зрения математики, энтропия Шеннона — это просто отнесённая к одной частице (удельная) энтропия Больцмана. 4 При этом значения у этих величин будут различаться, например, для микросхемы, хранящей 1 Гб данных, информационная энтропия составит порядка 1010 бит, а термодинамическая (при комнатной температуре) — порядка 1023. 1
Также информационную и термодинамическую энтропии связывает предел Ландауэра — минимальное количество энергии, необходимой для стирания одного бита информации. 1