В чем разница между Ridge и Lasso регрессией в машинном обучении?

Разница между Ridge и Lasso-регрессией в машинном обучении заключается в том, как они применяют штраф при регуляризации линейных моделей. www.geeksforgeeks.org

Ridge-регрессия (регуляризация L2) добавляет штраф, пропорциональный квадрату коэффициентов. www.geeksforgeeks.org Благодаря этому метод не позволяет коэффициентам достигать экстремальных значений. dzen.ru Ридж-регрессию лучше применять, когда предсказательная способность набора данных распределена между различными характеристиками. dzen.ru Она не обнуляет признаки, которые могут быть полезны при составлении прогнозов, а просто уменьшает вес большинства переменных в модели. dzen.ru

Lasso-регрессия (регуляризация L1) добавляет штраф, основанный на абсолютном значении коэффициентов. www.geeksforgeeks.org Это заставляет метод обнулять некоторые коэффициенты в бета-векторе. dzen.ru Лассо-регрессию следует использовать, когда есть несколько характеристик с высокой предсказательной способностью, а остальные бесполезны. dzen.ru Она обнуляет бесполезные характеристики и оставляет только подмножество переменных. dzen.ru

Таким образом, Lasso-регрессия подходит для ситуаций, когда нужно удалить из модели менее важные признаки, а Ridge-регрессия — когда все признаки считаются ценными, но нужно уменьшить влияние менее важных из них. www.geeksforgeeks.org