Метод дерева решений в машинном обучении позволяет разделить большой объём входных данных на относительно небольшие группы и прогнозировать наступление события в зависимости от определённых условий. 4

Метод работает по следующему алгоритму: 2

1. Выбирается признак, по которому происходит разделение выборки. 2
2. Выбирается пороговое значение для этого признака. 2
3. Выборка разделяется на две части: объекты, у которых значение признака меньше или равно порогу, и объекты, у которых значение признака больше порога. 2
4. Для каждой из двух полученных подвыборок рекурсивно повторяются шаги 1–3, пока не будет достигнут критерий останова (например, глубина дерева, количество объектов в листе и т. д.). 2
5. В листе дерева выводится ответ — класс или значение целевой переменной. 2

Структура дерева решений состоит из узлов и листьев. 15 Вверху дерева — начальный корневой узел, в который попадает вся выборка. 5 Далее происходит проверка на выполнение условия или наличие признака. 5

В результате такой проверки группа данных разбивается на подгруппы: подгруппа данных, которые прошли проверку, и подгруппа данных, которые не соответствуют заданному условию. 5 Далее подгруппы данных попадают в следующий узел с новой проверкой. 5 И так до конечного узла дерева задач, который отвечает заданной цели анализа данных или завершает процесс принятия решения. 5

Чтобы классифицировать новый случай, надо спуститься по дереву до листа и выдать соответствующее значение. 3