Как определить информационный вес текста на естественном языке?

Для определения информационного веса текста на естественном языке используют алфавитный подход. videouroki.net app.onlineschool-1.ru При нём считается, что каждый символ сообщения имеет свой вес — информационный вес, то есть несёт определённое количество информации. app.onlineschool-1.ru

Некоторые особенности алфавитного подхода:

• Все символы одного алфавита имеют один и тот же вес, зависящий от мощности алфавита. natalia.aclas.ru
• За минимальную единицу измерения информации принят информационный вес символа двоичного алфавита (1 бит). natalia.aclas.ru app.onlineschool-1.ru
• Информационный объём сообщения складывается из информационных весов составляющих его символов. videouroki.net reshak.ru

Формула для расчёта информационного объёма сообщения: I = K · i, где: app.onlineschool-1.ru

• К — количество символов в сообщении; app.onlineschool-1.ru
• I — количество информации в сообщении; app.onlineschool-1.ru
• i — информационный вес символа. app.onlineschool-1.ru

При алфавитном подходе информационный объём сообщения не зависит от его содержания и считается объективным. videouroki.net