Как содержательный подход помогает измерять информацию?

Содержательный подход к измерению информации помогает измерять её, учитывая объём знаний, который сообщение несёт получателю. 24

Суть подхода в том, что количество информации тем больше, чем больше оно пополняет знания. 24 То есть чем больше первоначальная неопределённость знания, тем больше информации несёт сообщение, снимающее эту неопределённость. 4

Некоторые примеры использования содержательного подхода:

• Подсчёт количества информации в сообщении о выборе шара. 1 Если из 256 одинаковых, но разноцветных шаров наугад выбрали один, то сообщение о том, что выбрали красный шар, несёт 8 бит информации (28 = 256). 1
• Измерение информации о результате бросания монеты. 4 Перед подбрасыванием монеты неопределённость знания о результате равна 2. 4 После получения сообщения, что выпал, например, орёл, неопределённость знания уменьшилась в два раза: было два варианта, остался один. 4

Содержательный подход часто называют субъективным, так как разные люди информацию об одном и том же предмете оценивают по-разному. 1