Как измерить информационный объем текста без предварительных знаний о содержимом?

Для измерения информационного объёма текста без предварительных знаний о его содержимом используют алфавитный подход. 13

При таком подходе смысл сообщения не учитывается, а количество информации определяется только длиной сообщения и мощностью алфавита. 2 Считается, что каждый символ несёт одинаковое количество информации. 2

Чтобы измерить информационный объём текста, нужно знать количество символов в нём и информационный вес одного символа. 5 Информационный вес — это количество информации, которое отводится на один символ. 4

Формула для определения информационного объёма текста: I = K × i, где: 4

• I — информационный объём сообщения; 4
• K — количество символов в сообщении; 4
• i — информационный вес одного символа. 4

Например, слово «мама», набранное в кодировке ASCII, будет иметь информационный объём 32 бита. 5 В слове 4 символа, а вес одного символа — 8 бит. 5 Следовательно, информационный объём равен 4 × 8 = 32. 5