Байесовская статистика отличается от обычной тем, что допускает включение предварительных знаний и субъективных убеждений в статистические модели. 1

Обычная статистика основана на идее частотной вероятности, которая определяется как предел отношения числа положительных исходов к числу испытаний по мере увеличения числа испытаний. 1 В байесовской статистике используется субъективная вероятность, которая учитывает убеждения или предварительные знания лица, принимающего решения. 1

Например, в обычной статистике при оценке неизвестного параметра распределения априори считаются одинаково правдоподобными любые значения. 2 А в байесовском подходе одни значения заранее считаются более правдоподобными, чем другие, поэтому результаты оценки могут быть другими. 2

Ещё до получения данных исследователь в байесовской методологии определяет уровень своего доверия к возможным моделям и впоследствии представляет его в виде определённых вероятностей. 3 После того, как получены данные, с использованием теоремы Байеса находится ещё одно множество вероятностей, которые являются пересмотренными степенями доверия к возможным моделям с учётом полученной исследователем новой информации. 3