Как работает Lasso Regression и в каких случаях его лучше применять?

Lasso Regression работает путём добавления к функции стоимости штрафного члена, который заставляет модель выбирать только самые важные признаки и обнулять коэффициенты менее важных признаков. {7-host}

Lasso Regression лучше применять в случаях, когда:

• Есть несколько характеристик с высокой предсказательной способностью, а остальные бесполезны. dzen.ru Метод обнуляет бесполезные характеристики и оставляет только подмножество переменных. dzen.ru
• Количество признаков значительно больше количества наблюдений. www.ibm.com Lasso Regression помогает снизить размерность датасета, обнуляя весовые параметры и исключая из модели менее важные признаки. www.ibm.com
• Независимые переменные не оказывают значительного влияния на зависимую переменную или сильно коррелированы между собой. vk.com В такой ситуации Lasso может привести к повышению качества модели. vk.com

Однако стоит учитывать, что из-за свойства Lasso обнулять некоторые признаки некоторые важные признаки могут выпасть из расчёта, что приведёт к искажению модели. vk.com

Перед применением любых методов машинного обучения необходимо проводить предварительный анализ начальных данных: проверять корреляции, оценивать значимость признаков, смотреть на структуру и разброс данных. vk.com