Принцип бритвы Оккама при выборе статистической модели данных заключается в том, что из двух моделей или гипотез, предсказывающих данные одинаково хорошо, следует выбирать ту, которая проще. 2 То есть ту, которая не вводит без необходимости дополнительные параметры или переменные. 2

Суть принципа в том, что новые законы для описания новых явлений вводить не стоит, если существующие законы могут адекватно и полно описать данные явления. 2

Однако стоит отметить, что простота теории не всегда гарантирует её истинность. 2 Бритва Оккама — это лишь эвристический инструмент, и в некоторых случаях более сложные теории оказываются более точными и объяснительными. 2

Также существует формализация бритвы Оккама — принцип минимальной длины описания (MDL), в котором лучшая гипотеза (модель и её параметры) для данного набора данных — это та, которая ведёт к лучшему сжиманию данных. 14