Как логарифмы влияют на математическую теорию информации?

Логарифмы влияют на математическую теорию информации, в частности, позволяют выражать умножения в виде сумм и наоборот. math.stackexchange.com

Например, в энтропии Шеннона используется логарифмическая зависимость: вероятность одновременного возникновения нескольких информационных событий умножается, но если все эти события происходят, общая стоимость этих событий суммируется. math.stackexchange.com

Также в теории информации отрицательный логарифм вероятности события используется в качестве количественной меры информации. habr.com При этом в теории информации принято принимать основание логарифма равным 2, поэтому бинарный выбор содержит ровно 1 бит информации. habr.com