Принцип работы наивного байесовского классификатора заключается в предположении, что значение определённого признака не зависит от значения любого другого признака, заданного переменной класса. 5

Алгоритм строится следующим образом: 2

1. Изначально рассчитываются априорные вероятности классов. 2
2. Рассчитываются средние и стандартные отклонения признаков по классам. 2
3. На основе полученных отклонений признаков по классам рассчитывается вероятностная плотность тестовых признаков по распределению Гаусса. 2
4. Вычисляются апостериорные вероятности как произведение априорных вероятностей классов и вероятностных плотностей тестовых признаков. 2
5. Классы с максимальной апостериорной вероятностью становятся итоговым прогнозом. 2

Наивные байесовские классификаторы основаны на теореме Байеса — уравнении, описывающем связь условных вероятностей статистических величин. 3

Однако такое предположение не всегда является верным на практике и в ряде случаев может привести к значительному ухудшению качества прогнозов. 2