В чем разница между информацией и энтропией в теории связи?

Разница между информацией и энтропией в теории связи заключается в следующем:

1. Информация в теории связи — это любая последовательность символов, не учитывая их смысл. math-it.petrsu.ru Это сведения об объектах окружающей среды, их параметрах, свойствах и состоянии, которые уменьшают имеющуюся о них степень неопределённости, неполноты знаний. math-it.petrsu.ru
2. Энтропия — это мера хаотичности информации или мера внутренней неупорядоченности информационной системы. profbeckman.narod.ru Энтропия увеличивается при хаотическом распределении информационных ресурсов и уменьшается при их упорядочении. profbeckman.narod.ru

Таким образом, информация характеризует степень зависимости некоторых переменных, а энтропия — меру неопределённости некоторой ситуации. profbeckman.narod.ru www.chronos.msu.ru