Логарифмы влияют на математическую теорию информации, в частности, позволяют выражать умножения в виде сумм и наоборот. 1
Например, в энтропии Шеннона используется логарифмическая зависимость: вероятность одновременного возникновения нескольких информационных событий умножается, но если все эти события происходят, общая стоимость этих событий суммируется. 1
Также в теории информации отрицательный логарифм вероятности события используется в качестве количественной меры информации. 2 При этом в теории информации принято принимать основание логарифма равным 2, поэтому бинарный выбор содержит ровно 1 бит информации. 2