Суть содержательного подхода к измерению информации в том, что при определении объёма информации учитывается её содержание. 1 Она должна быть новой и понятной получателю. 1
Согласно этому подходу, количество информации можно рассматривать как меру уменьшения неопределённости знания при получении информационных сообщений. 3 Неопределённость некоторого события — это количество возможных исходов данного события. 3 Например, если из колоды карт наугад выбирают карту, то неопределённость равна количеству карт в колоде. 3 При бросании монеты неопределённость равна 2. 3
Если сообщение уменьшило неопределённость знаний ровно в два раза, то говорят, что сообщение несёт 1 бит информации. 3 1 бит — объём информации такого сообщения, которое уменьшает неопределённость знания в два раза. 3