В чем разница между L1 и L2 регуляризацией?

Разница между L1 и L2 регуляризацией заключается в том, как они добавляют штраф к функции потерь модели: habr.com codelabsacademy.com

1. L1 регуляризация (регуляризация Лассо) добавляет штраф, равный сумме абсолютных значений коэффициентов (весов) модели. habr.com codelabsacademy.com Это позволяет создавать разреженные модели, где только небольшое количество признаков имеет ненулевые веса. habr.com L1 регуляризация полезна при работе с наборами данных с большим количеством функций, поскольку помогает упростить модель, сосредоточив внимание на наиболее важных функциях. codelabsacademy.com
2. L2 регуляризация (регуляризация Риджа) добавляет штраф, пропорциональный квадрату величины весов модели. habr.com codelabsacademy.com В отличие от L1 регуляризации, L2 не склонна обнулять веса. habr.com Вместо этого она уменьшает веса постепенно, делая модель более «гладкой» и менее подверженной влиянию шума в данных. habr.com L2 регуляризация полезна в ситуациях, когда количество признаков в данных велико или когда они сильно коррелированы. habr.com

Выбор между L1 и L2 регуляризацией зависит от конкретной задачи и методов обучения. python-school.ru