В чём отличие информации от энтропии?

Отличие информации от энтропии заключается в их определениях:

• Информация — это любые сведения и данные, отражающие свойства объектов в природных, социальных и технических системах. otvet.mail.ru Она показывает, какая часть первоначально заданного алгоритма развития системного объекта уже реализована. www.trinitas.ru
• Энтропия — это мера хаотичности информации или мера внутренней неупорядоченности информационной системы. profbeckman.narod.ru Энтропия увеличивается при хаотическом распределении информационных ресурсов и уменьшается при их упорядочении. profbeckman.narod.ru

Таким образом, информация характеризует степень зависимости некоторых переменных, а энтропия — меру неопределённости (непредсказуемости, неожиданности) появления символа. habr.com profbeckman.narod.ru

При этом информация и энтропия неразрывно связаны, потому что представляют собой части одного физического процесса. www.trinitas.ru