В чём отличие содержательного (вероятностного) и объёмного (алфавитного) подходов к измерению информации?

Основное отличие содержательного (вероятностного) и объёмного (алфавитного) подходов к измерению информации заключается в том, как они рассматривают информацию и её содержание. 36

Содержательный (вероятностный) подход рассматривает информацию с точки зрения человека, то есть вложенного в неё смысла. 3 Количество информации определяется объёмом знаний, который сообщение несёт получающему его человеку. 8 При таком подходе более информативным считается то сообщение, которое менее вероятно, то есть менее всего ожидалось. 4

Объёмный (алфавитный) подход, в свою очередь, рассматривает информацию с позиции технического устройства (сигналов). 3 Количество информации определяется только длиной сообщения и мощностью алфавита. 7 При этом не учитывается, что некоторые символы могут встречаться в сообщении чаще других. 7 Считается, что каждый символ несёт одинаковое количество информации. 7

Таким образом, содержательный подход фокусируется на смысловой стороне информации, а объёмный — на её количественной характеристике.