В чем разница между One-Hot Encoding и Label Encoding?

Разница между One-Hot Encoding и Label Encoding заключается в следующем:

1. Природа данных. www.geeksforgeeks.org One-Hot Encoding подходит для номинальных данных, где между категориями нет inherent order или ранжирования (например, цвета, страны). www.geeksforgeeks.org Label Encoding — для порядковых данных, где категории имеют естественный порядок (например, «Низкий», «Средний», «Высокий»). www.geeksforgeeks.org
2. Количество создаваемых признаков. www.geeksforgeeks.org One-Hot Encoding генерирует множество бинарных признаков, по одному для каждой уникальной категории. www.geeksforgeeks.org Label Encoding создаёт один признак, где каждая категория представлена уникальным целым числом. www.geeksforgeeks.org
3. Интерпретация модели. www.geeksforgeeks.org В One-Hot Encoding преобразованные признаки легко интерпретируются, так как каждый бинарный столбец представляет конкретную категорию. www.geeksforgeeks.org В Label Encoding преобразованные данные могут быть сложнее интерпретировать, так как числовые значения (например, 0, 1, 2) назначаются категориям, но сами числа не имеют чёткого смысла. www.geeksforgeeks.org
4. Влияние на алгоритмы машинного обучения. www.geeksforgeeks.org One-Hot Encoding хорошо работает с алгоритмами, которые не предполагают никакой порядковой зависимости, такими как логистическая регрессия, нейронные сети или KNN. www.geeksforgeeks.org Label Encoding подходит для моделей на основе деревьев (например, Деревья решений, Случайные леса), которые могут эффективно обрабатывать порядковые данные. www.geeksforgeeks.org
5. Размерность. www.geeksforgeeks.org One-Hot Encoding увеличивает размерность, потому что для каждой категории создаётся новый бинарный столбец. www.geeksforgeeks.org Label Encoding не увеличивает размерность, так как отображает категории на целые числа, делая пространство признаков меньшим и более компактным. www.geeksforgeeks.org
6. Обработка невидимых категорий. www.geeksforgeeks.org One-Hot Encoding может вызывать ошибки при встрече с невидимыми категориями в тестовом наборе, если не обрабатывать их правильно. www.geeksforgeeks.org Label Encoding может назначать произвольные целые числа невидимым категориям. www.geeksforgeeks.org

Выбор между One-Hot Encoding и Label Encoding зависит от конкретного применения и характеристик данных, таких как количество категорий и размерность данных. elsevier.blog