В чём заключается основная теорема Шеннона о кодировании информации?

Основная теорема Шеннона о кодировании информации гласит, что если производительность источника сообщений меньше пропускной способности канала связи без помех, то всегда можно найти такой способ кодирования, который обеспечит передачу информации со средней скоростью, сколь угодно близкой к пропускной способности канала связи. books.ifmo.ru

Передавать информацию со средней скоростью, большей пропускной способности канала связи, невозможно. books.ifmo.ru

Также есть другая формулировка теоремы, которая касается ситуации с кодированием при отсутствии помех: it.rfei.ru profbeckman.narod.ru > При отсутствии помех передачи всегда возможен такой вариант кодирования сообщения, при котором среднее число знаков кода, приходящихся на один знак кодируемого алфавита, будет сколь угодно близко к отношению средних информаций на знак первичного и вторичного алфавитов. moodle.kstu.ru it.rfei.ru