Почему логистическая регрессия требует достаточно большого размера обучающей выборки?

Логистическая регрессия требует достаточно большого размера обучающей выборки по нескольким причинам:

• Идентификация всех категорий. www.analyticsvidhya.com Модель нуждается в большом наборе данных и достаточном количестве обучающих выборок, чтобы идентифицировать все категории. www.analyticsvidhya.com
• Снижение риска переобучения. www.analyticsvidhya.com Если обучать модель с небольшим объёмом данных и многочисленными функциями, это может привести к чрезмерной подгонке модели к обучающему набору и завышению точности прогнозов в нём. www.analyticsvidhya.com В результате модель не сможет точно предсказать результаты в тестовом наборе. www.analyticsvidhya.com
• Уменьшение влияния выбросов. www.analyticsvidhya.com habr.com Логистическая регрессия чувствительна к выбросам, и наличие в наборе данных значений, отличающихся от ожидаемого диапазона, может привести к ошибочным результатам. www.analyticsvidhya.com

Выбор минимального объёма выборки зависит от равномерности распределения значений зависимой переменной. www.statmethods.ru При относительно равномерном распределении необходимо задавать не менее 10 наблюдений на 1 предиктор. www.statmethods.ru Чем больше распределение зависимой переменной смещено в пользу конкретного значения, тем больше наблюдений нужно брать на один предиктор. www.statmethods.ru