Чтобы рассчитать количество информации, которое несёт сообщение с учётом мощности алфавита, можно использовать формулу Хартли: 3
I = K log2 N, где: 3
Также можно применить формулу I = K * i, где I — информационный объём текстового документа (файла), K — количество символов в тексте. 25
В ней нужно определить, какое количество бит необходимо для кодировки одного символа. 1 Для этого используют формулу N = 2i, где N — мощность алфавита, а i — информационный объём одного символа (информационный вес символа). 12
Затем вычисляют информационный объём сообщения, умножив количество символов на количество бит для кодировки одного символа. 4