Некоторые методы обучения решающих деревьев:

• Расширяемые деревья. 1 Метод, который строит шаг за шагом сборку путём тренировки каждого нового экземпляра, делая упор на тренировку ранее не попадающих в модель экземпляров. 1 Пример — AdaBoost. 1
• Бэггинг. 14 Метод, который создаёт несколько деревьев решений для анализа повторной выборки исходных данных. 4 На основе полученных результатов формулируется единое решение заданного вопроса. 4
• Ротационный лес. 14 Подход, в котором каждое дерево решений сначала тренируется применением метода главных компонент (PCA) на случайном подмножестве входных признаков. 1
• ID3. 2 Алгоритм создаёт многоходовое дерево, находя для каждого узла категориальный признак, который даст наибольший прирост информации для категориальных целей. 2 Деревья растут до максимального размера, а затем обычно применяется шаг обрезки, чтобы улучшить способность дерева обобщаться на невидимые данные. 2