Почему деревья решений могут быть неэффективными для простых задач классификации?

Несколько причин, по которым деревья решений могут быть неэффективными для простых задач классификации:

• Несбалансированная обучающая выборка. top-technologies.ru eneff.susu.ru В процессе обучения дерево решений использует классы с большим числом тренировочных объектов, но пропускает те, которые содержат малое число примеров. top-technologies.ru Для качественной классификации важно иметь баланс между классами в обучающей выборке. top-technologies.ru
• Переобучение. practicum.yandex.ru scikit-learn.ru Модель дерева решений подстраивается под те данные, которые получает, и ищет характеристики, которые увеличат вероятность. practicum.yandex.ru Из-за этого алгоритм не сможет сделать прогноз на характеристики, которых не было в обучающей выборке. practicum.yandex.ru
• Нестабильность. scikit-learn.ru Изменения параметров в одном узле дерева решений может привести к полному изменению всей его структуры. gb.ru
• Трудоёмкость составления. gb.ru В каждом узле каждый элемент должен анализироваться до тех пор, пока не станет возможным принятие наилучшего возможного в данной ситуации решения. gb.ru