Вклад Клода Шеннона в развитие теории информации заключается в следующем:

• Предложение математической модели системы коммуникации. 3 Шеннон подробно рассмотрел передачу сообщения как передачу последовательности отдельных символов. 3

• Определение информации как измеримой величины. 3 Количество информации, содержащейся в данном сообщении, есть функция вероятности, что из всех возможных сообщений будет выбрано данное. 4

• Введение понятия энтропии. 13 Энтропия эквивалентна мере неопределённости информации в передаваемом сообщении. 1

• Определение основной единицы количества информации — бита. 34 Бит можно представить как 1 или 0, или как присутствие или отсутствие тока в цепи. 4

• Доказательство, что любой канал связи имеет свою максимальную пропускную способность для надёжной передачи информации. 4 В действительности он доказал, что, хотя можно приблизиться к этому максимуму за счёт искусного кодирования, достичь его невозможно. 4 Этот максимум получил известность как предел Шеннона. 4

Теория информации, разработанная Шенноном, помогла решить главные проблемы, связанные с передачей сообщений: 1 устранить избыточность передаваемых сообщений, произвести кодирование и передачу сообщений по каналам связи с шумами. 1