Метод построения дерева решений основан на «жадных» алгоритмах. 12 Они допускают локально-оптимальные решения на каждом шаге (разбиения в узлах), которые приводят к оптимальному итоговому решению. 1

Основная задача при построении дерева решений — последовательно и рекурсивно разбить обучающее множество на подмножества с применением решающих правил в узлах. 1 Процесс разбиения продолжается до тех пор, пока все узлы в конце всех ветвей не будут объявлены листьями. 2

В основе большинства популярных алгоритмов обучения деревьев решений лежит принцип «разделяй и властвуй». 2

Также метод основан на правиле: «Если <условие>, то <ожидаемый результат>». 4 Правила генерируются автоматически в процессе обучения за счёт обобщения множества отдельных наблюдений (обучающих примеров), описывающих предметную область. 1