Мощность алфавита и количество информации в сообщении взаимосвязаны следующим образом: чем больше мощность алфавита, тем больше различных символов можно использовать, и тем больше информации может быть закодировано в сообщение. 1
Информационный объём сообщения зависит от количества выбранных символов из мощности алфавита. 1 Сообщение, которое использует большую часть возможных символов из алфавита, будет содержать больше информации, чем сообщение, которое использует только небольшую часть символов. 1
Например, если алфавит состоит из 16 символов, то это означает, что каждый символ несёт 4 бита информации. 34 Соответственно, зная количество информации, которое содержит в себе один знак алфавита, и количество знаков в сообщении, можно определить, какое количество информации содержит сообщение в целом. 34