Один из методов оценки информационной ёмкости различных алфавитов — алфавитный подход. 24 При нём отвлекаются от содержания (смысла) информации и рассматривают её как последовательность знаков определённой знаковой системы. 2
Информационная ёмкость знака зависит от мощности алфавита. 1 Мощность алфавита — это полное количество символов в нём. 1 Например, мощность алфавита из русских букв равна 33, а двоичного алфавита — 2. 1
По формуле Хартли можно рассчитать, какое количество информации несёт каждый символ. 2 Для этого набор символов языка (алфавит) рассматривают как различные возможные события. 2 Если считать, что появление символов в сообщении равновероятно, то по формуле Хартли можно рассчитать информационный объём одного символа: I = log2 N. 2
Например, в русском языке 32 буквы (буква ё обычно не используется), то есть количество событий будет равно 32. 2 Тогда информационный объём одного символа будет равен: I = log2 32 = 5 битов. 2