В чём заключается вклад Клода Шеннона в развитие теории информации?

Вклад Клода Шеннона в развитие теории информации заключается в следующем:

• Предложение математической модели системы коммуникации. yandex.ru Шеннон подробно рассмотрел передачу сообщения как передачу последовательности отдельных символов. yandex.ru

• Определение информации как измеримой величины. yandex.ru Количество информации, содержащейся в данном сообщении, есть функция вероятности, что из всех возможных сообщений будет выбрано данное. go-ra.ru

• Введение понятия энтропии. ru.wikipedia.org yandex.ru Энтропия эквивалентна мере неопределённости информации в передаваемом сообщении. ru.wikipedia.org

• Определение основной единицы количества информации — бита. yandex.ru go-ra.ru Бит можно представить как 1 или 0, или как присутствие или отсутствие тока в цепи. go-ra.ru

• Доказательство, что любой канал связи имеет свою максимальную пропускную способность для надёжной передачи информации. go-ra.ru В действительности он доказал, что, хотя можно приблизиться к этому максимуму за счёт искусного кодирования, достичь его невозможно. go-ra.ru Этот максимум получил известность как предел Шеннона. go-ra.ru

Теория информации, разработанная Шенноном, помогла решить главные проблемы, связанные с передачей сообщений: ru.wikipedia.org устранить избыточность передаваемых сообщений, произвести кодирование и передачу сообщений по каналам связи с шумами. ru.wikipedia.org