Основное различие между подходами Клода Шеннона и Норберта Винера к теории информации заключается в том, что Шеннон фокусировался на количественной оценке информации, а Винер — на её значении в процессах управления. 25
Клод Шеннон рассматривал информацию как снимаемую неопределённость. 1 Он показал, что объём информации в конкретном сообщении определяется вероятностью того, что из всех сообщений, которые могут быть отправлены, выбрано будет именно оно. 4 Шеннон определил базовую единицу информации как сообщение, представляющее одно из двух возможных состояний. 4 Он также показал, что любой канал связи обладает некой максимальной пропускной способностью, выше которой надёжная передача информации невозможна. 4
Норберт Винер впервые понял принципиальное значение информации в процессах управления. 6 Он разработал понятие информации как основы компьютерного управления и автоматизации. 1 Винер считал, что любой сигнал, любую информацию, независимо от её конкретного содержания и назначения, можно рассматривать как некоторый выбор между двумя или более значениями, наделёнными известными вероятностями. 3 Это позволяет подойти ко всем процессам с единой меркой, с единым статистическим аппаратом. 3
Таким образом, Шеннон фокусировался на измерении информации, а Винер — на использовании её в управленческих процессах.