Формула Шеннона используется для измерения информации в теории информации, потому что она способна учитывать возможную неодинаковую вероятность сообщений, содержащихся в наборе. 2

При создании формулы учёный Клод Шеннон использовал применяемую в математике и гидродинамике вероятностную меру неопределённости (называемую энтропией) для того, чтобы в полной мере оценить состояние изучаемой системы и получить максимально возможную информацию о протекающих в этой системе процессах. 2

Также формула Шеннона показывает, что чем больше в сообщении информации, тем более оно бессистемно. 1 Например, наименее информативная картина будет похожа на «Чёрный квадрат» Малевича, наиболее информативная — на хаотичную разноцветную «живопись» искусственного интеллекта. 1